En resumen
- xAI presentó el lunes una demanda por la Primera Enmienda contra el fiscal general de Minnesota, Keith Ellison, para bloquear la HF 1606, la primera ley del país dirigida a las plataformas de desnudez por IA, que entra en vigor el 1 de agosto.
- La ley impone multas civiles de hasta $500,000 por imagen sin puerto seguro, incluso para plataformas que prohíben y filtran activamente los intentos de desnudez.
- Minnesota aprobó la HF 1606 con 132-1 en la Cámara y 65-0 en el Senado después de que un hombre usara fotos de redes sociales para crear imágenes sexuales de más de 80 mujeres que conocía.
xAI, la empresa de IA de Elon Musk, presentó el lunes una demanda federal contra el fiscal general de Minnesota, Keith Ellison, para bloquear la primera ley del país dirigida a la "desnudez" por IA—software que utiliza inteligencia artificial para eliminar o alterar digitalmente la ropa en fotos reales de personas reales—calificándola de "una prohibición excesivamente amplia y basada en el contenido de la libertad de expresión y las herramientas de expresión visual en un torpe intento de prohibir la desnudez".
La ley es la HF 1606. Hace que cualquier plataforma sea estrictamente responsable—legalmente responsable independientemente del conocimiento o la intención—si los usuarios generan imágenes realistas de personas reales mostrando partes del cuerpo que esas personas nunca expusieron. Cada violación puede costar hasta $500,000 por imagen generada.
La queja, presentada en el Tribunal de Distrito de los Estados Unidos para el Distrito de Minnesota, no defiende exactamente la desnudez. "xAI, por lo tanto, no impugna el interés de Minnesota en prohibir la difusión de imágenes de desnudos generadas artificialmente de personas reales sin su consentimiento", dice la presentación. "Pero el estatuto que Minnesota promulgó va mucho más allá de ese objetivo, exponiendo una amplia gama de discurso protegido a responsabilidad civil y sanciones gubernamentales".
El problema, alega xAI, es cómo Minnesota definió el término. Según la demanda, el estado tomó prestada "parte íntima" de un estatuto de contacto sexual criminal—uno escrito para tocamientos no consentidos, no para generación de imágenes. Bajo él, el muslo interno, las nalgas o el pecho califican igualmente. Generar una imagen realista de IA de un político sin camisa, una mujer en traje de baño o una figura pública en la playa—incluso para sátira política—podría activar la ley y la multa.
Y no hay escape para las plataformas, según los argumentos de xAI. "No hay puerto seguro para los esfuerzos de buena fe del proveedor de herramientas creativas de IA de propósito general para evitar daños", dice la queja. "La responsabilidad se aplica incluso si las personas representadas consintieron—o crearon la imagen ellas mismas—e incluso si la imagen nunca se comparte".
Tampoco hay requisito de scienter (conocimiento de irregularidad)—un usuario que se escabulle de los propios filtros de una empresa aún hace que la empresa sea totalmente responsable bajo esta ley.
Solo en 2026, la empresa suspendió más de 50,000 cuentas y presentó más de 70,000 informes al NCMEC (Centro Nacional para Menores Desaparecidos y Explotados), lo que llevó a al menos 244 arrestos. Nada de eso crea una defensa bajo la HF 1606.
El contexto más amplio importa aquí. Las herramientas de imagen de Grok tuvieron problemas casi inmediatamente después de su lanzamiento a finales de julio de 2025, generando deepfakes (imágenes sintéticas generadas por IA de personas reales) con simples indicaciones de texto, lo que provocó investigaciones regulatorias en Europa, Australia y varios estados de EE. UU. Ciudades como Baltimore y tres menores de Tennessee demandaron por separado a xAI por los deepfakes generados por Grok. La compañía también impugnó la ley de IA de Colorado en abril por motivos similares de la Primera Enmienda.
Minnesota aprobó la HF 1606 con 132-1 en la Cámara y 65-0 en el Senado, después de que un hombre usara fotos de redes sociales para generar imágenes sexuales de más de 80 mujeres que conocía. La defensora del proyecto de ley en el Senado, la senadora Erin Maye Quade, confirmó que la prohibición de la ley sobre imágenes consensuadas fue "intencional".
La ley federal TAKE IT DOWN, firmada por el presidente Donald Trump en mayo de 2025, ya cubre los deepfakes íntimos no consensuados, pero requiere prueba de falta de consentimiento y distribución real, utiliza una definición más estrecha de partes del cuerpo e incluye exenciones para contenido educativo y médico. xAI argumenta que ese es el modelo que Minnesota debería haber adoptado.
El fiscal general Ellison no se echa atrás. "La desnudización por IA despoja a la víctima de su dignidad y puede causar un daño inmenso a nivel emocional, personal y profesional", dijo después de que se presentara la demanda.
La HF 1606 entra en vigor el sábado. xAI quiere que un juez federal lo detenga antes de entonces.
