En resumen
- Minnesota está luchando contra el intento de xAI de bloquear la primera ley de su tipo en el estado dirigida a imágenes sexuales generadas por IA.
- xAI dice que la ley viola la Primera Enmienda, mientras que Minnesota argumenta que Grok Imagine es una herramienta tecnológica, no discurso protegido.
- El estado acusó a xAI de crear un "mercado sin precedentes para la violencia sexual digital" mientras un juez federal se prepara para escuchar el caso el miércoles.
Minnesota está luchando contra xAI de Elon Musk por el intento de la empresa de bloquear HF-1606, una ley estatal pionera dirigida a herramientas de IA que generan imágenes sexuales realistas de personas identificables.
En una presentación judicial del viernes, el Fiscal General de Minnesota, Keith Ellison, argumentó que es poco probable que xAI tenga éxito en su impugnación constitucional y no ha demostrado que hacer cumplir la ley cause un daño irreparable.
“Con Grok Imagine, X.AI ha creado un mercado sin precedentes para la violencia sexual digital que prácticamente no presenta barreras de entrada”, escribió Ellison. “Ese mercado, junto con las capacidades funcionales de Grok Imagine, condenaría a Minnesota desde el principio si no pudiera dirigir sus leyes a la tecnología que hace posible la victimización sexual digital en primer lugar”.
La ley, promulgada en abril y que entró en vigor el 1 de agosto, prohíbe a las plataformas y desarrolladores de software permitir a los usuarios crear imágenes realistas que muestren partes íntimas del cuerpo que no aparecían en la imagen original de una persona identificable.
Antes de la implementación de la ley, en julio, xAI demandó a Ellison para bloquear la ley, argumentando que viola la Primera Enmienda y podría aplicarse a imágenes protegidas, incluidos hombres sin camisa, nadadores y sátira política. Las infracciones conllevan sanciones de hasta 500.000 dólares por imagen.
“No existe un puerto seguro para los esfuerzos de buena fe del proveedor de herramientas creativas de IA de propósito general para evitar daños”, escribió xAI en su denuncia. “La responsabilidad se aplica incluso si las personas representadas dieron su consentimiento, o crearon la imagen ellas mismas, e incluso si la imagen nunca se comparte”.
Minnesota aprobó la medida 132-1 en la Cámara y 65-0 en el Senado después de que los legisladores escucharan informes sobre un hombre que utilizó fotos de redes sociales para crear imágenes sexuales de más de 80 mujeres que conocía.
“Hoy, lideramos a la nación protegiendo a mujeres, niños y a todos en la vida pública del daño causado por la tecnología de desnudez con IA”, dijo la senadora Maye Quade, quien lideró el impulso, en un comunicado en ese momento. “Las empresas que ofrecen esta tecnología gratuitamente en línea y en tiendas de aplicaciones ya no podrán permitir que los depredadores abusen y victimicen a adultos y niños con un clic.
El caso ahora se centra en si la ley regula el discurso o la tecnología.
Grok también ha enfrentado escrutinio por deepfakes sexualmente explícitos.
En enero, un organismo de control estimó que Grok generó más de 23,000 imágenes sexualizadas de niños en 11 días, lo que provocó investigaciones en varios países.
En marzo, tres menores en California se unieron a otros para demandar a xAI, alegando que Grok fue utilizado para convertir sus fotos en material de abuso sexual infantil generado por IA. xAI ha dicho que suspendió más de 50,000 cuentas y presentó más de 70,000 informes al Centro Nacional para Menores Desaparecidos y Explotados en 2026.
