En bref
- Le Minnesota combat la tentative de xAI de bloquer la loi de l'État, une première en son genre, ciblant les images sexuelles générées par IA.
- xAI affirme que la loi viole le Premier Amendement, tandis que le Minnesota soutient que Grok Imagine est un outil technologique, et non un discours protégé.
- L'État a accusé xAI de créer un « marché sans précédent de violence sexuelle numérique » alors qu'un juge fédéral s'apprête à entendre l'affaire mercredi.
Le Minnesota combat xAI d'Elon Musk concernant la tentative de l'entreprise de bloquer la HF-1606, une loi d'État inédite ciblant les outils d'IA qui génèrent des images sexuelles réalistes de personnes identifiables.
Dans un mémoire déposé au tribunal vendredi, le procureur général du Minnesota, Keith Ellison, a fait valoir que xAI a peu de chances de réussir dans sa contestation constitutionnelle et n'a pas démontré que l'application de la loi causerait un préjudice irréparable.
« Avec Grok Imagine, X.AI a créé un marché sans précédent pour la violence sexuelle numérique qui ne présente pratiquement aucune barrière à l'entrée », a écrit Ellison. « Ce marché, combiné aux capacités fonctionnelles de Grok Imagine, condamnerait le Minnesota dès le départ s'il ne pouvait pas diriger ses lois vers la technologie qui rend possible la victimisation sexuelle numérique en premier lieu. »
La loi, promulguée en avril et entrée en vigueur le 1er août, interdit aux plateformes et aux développeurs de logiciels de permettre aux utilisateurs de créer des images réalistes montrant des parties intimes du corps qui n'apparaissaient pas dans l'image originale d'une personne identifiable.
Avant la mise en œuvre de la loi, en juillet, xAI a poursuivi Ellison pour bloquer la loi, arguant qu'elle viole le premier amendement et pourrait s'appliquer à des images protégées, y compris des hommes torse nu, des nageurs et des satires politiques. Les violations entraînent des pénalités allant jusqu'à 500 000 $ par image.
« Il n'y a pas de refuge sûr pour les efforts de bonne foi du fournisseur d'outils créatifs d'IA à usage général pour éviter les préjudices », a écrit xAI dans sa plainte. « La responsabilité s'applique même si les personnes représentées ont consenti – ou ont créé l'image elles-mêmes – et même si l'image n'est jamais partagée. »
Le Minnesota a adopté la mesure par 132 voix contre 1 à la Chambre et 65 contre 0 au Sénat, après que les législateurs ont entendu des rapports sur un homme qui avait utilisé des photos de réseaux sociaux pour créer des images sexuelles de plus de 80 femmes qu'il connaissait.
« Aujourd'hui, nous avons montré la voie à la nation en protégeant les femmes, les enfants et tous ceux qui vivent dans la vie publique contre les méfaits de la technologie de nudification par IA », a déclaré la sénatrice Maye Quade, qui a mené cette initiative, dans un communiqué à l'époque. « Les entreprises qui mettent cette technologie gratuitement en ligne et dans les magasins d'applications ne seront plus autorisées à permettre aux prédateurs qui abusent et victimisent les adultes et les enfants en un clic.
L'affaire porte désormais sur la question de savoir si la loi réglemente la parole ou la technologie.
Grok a également fait l'objet d'un examen minutieux concernant des deepfakes sexuellement explicites.
En janvier, un organisme de surveillance a estimé que Grok avait généré plus de 23 000 images sexualisées d'enfants en 11 jours, ce qui a suscité des enquêtes dans plusieurs pays.
En mars, trois mineurs en Californie se sont joints à d'autres pour poursuivre xAI, alléguant que Grok avait été utilisé pour transformer leurs photos en matériel d'abus sexuel d'enfants généré par IA. xAI a déclaré avoir suspendu plus de 50 000 comptes et déposé plus de 70 000 signalements auprès du Centre national pour les enfants disparus et exploités en 2026.
