Em resumo

  • A xAI entrou com uma ação judicial na segunda-feira contra o procurador-geral de Minnesota, Keith Ellison, para bloquear o HF 1606, a primeira lei do país que visa plataformas de nudificação por IA, que entra em vigor em 1º de agosto.
  • A lei impõe penalidades civis de até US$ 500.000 por imagem, sem porto seguro, mesmo para plataformas que proíbem e filtram ativamente tentativas de nudificação.
  • Minnesota aprovou o HF 1606 por 132 a 1 na Câmara e 65 a 0 no Senado, depois que um homem usou fotos de redes sociais para criar imagens sexuais de mais de 80 mulheres que conhecia.

A xAI, empresa de IA de Elon Musk, entrou com uma ação federal na segunda-feira contra o procurador-geral de Minnesota, Keith Ellison, para bloquear a primeira lei do país que visa a "nudificação" por IA — software que usa inteligência artificial para remover ou alterar digitalmente roupas em fotos reais de pessoas reais — chamando-a de "uma proibição excessivamente ampla, baseada em conteúdo, da liberdade de expressão e das ferramentas de expressão visual, em uma tentativa desajeitada de proibir a nudificação".

A lei é o HF 1606. Ela torna qualquer plataforma estritamente responsável — legalmente responsável independentemente de conhecimento ou intenção — se os usuários gerarem imagens realistas de pessoas reais mostrando partes do corpo que essas pessoas nunca expuseram. Cada violação pode custar até US$ 500.000, por imagem gerada.

A queixa, apresentada no Tribunal Distrital dos EUA para o Distrito de Minnesota, não defende exatamente a nudificação. "A xAI, portanto, não contesta o interesse de Minnesota em proibir a disseminação de imagens nuas geradas artificialmente de pessoas reais sem seu consentimento", diz o processo. "Mas o estatuto que Minnesota promulgou vai muito além desse objetivo, expondo uma ampla gama de discurso protegido a responsabilidade civil e sanções governamentais."

O problema, alega a xAI, é como Minnesota definiu o termo. De acordo com o processo, o estado emprestou "parte íntima" de um estatuto de contato sexual criminoso — um escrito para toque não consensual, não para geração de imagens. Sob ele, a parte interna da coxa, as nádegas ou os seios se qualificam igualmente. Gerar uma imagem realista de IA de um político sem camisa, uma mulher de biquíni ou uma figura pública na praia — mesmo para sátira política — pode acionar a lei e a multa.

E não há escapatória para as plataformas, de acordo com os argumentos da xAI. "Não há porto seguro para esforços de boa-fé do provedor de ferramentas criativas de IA de propósito geral para evitar danos", diz a queixa. "A responsabilidade é atribuída mesmo que as pessoas retratadas tenham consentido — ou criado a imagem elas mesmas — e mesmo que a imagem nunca seja compartilhada."

Também não há requisito de scienter (conhecimento de irregularidade) — um usuário que escapa dos próprios filtros da empresa ainda torna a empresa totalmente responsável sob esta lei.

Somente em 2026, a empresa suspendeu mais de 50.000 contas e apresentou mais de 70.000 relatórios ao NCMEC (Centro Nacional para Crianças Desaparecidas e Exploradas), levando a pelo menos 244 prisões. Nada disso cria uma defesa sob o HF 1606.

O contexto mais amplo é importante aqui. As ferramentas de imagem do Grok enfrentaram problemas quase imediatamente após seu lançamento no final de julho de 2025, gerando deepfakes—imagens sintéticas geradas por IA de pessoas reais—com simples prompts de texto, provocando investigações regulatórias na Europa, Austrália e em vários estados dos EUA. Cidades como Baltimore e três menores do Tennessee processaram separadamente a xAI por causa das saídas de deepfake do Grok. A empresa também contestou a lei de IA do Colorado em abril, com base em argumentos semelhantes da Primeira Emenda.

Minnesota aprovou o HF 1606 por 132-1 na Câmara e 65-0 no Senado, depois que um homem usou fotos de redes sociais para gerar imagens sexuais de mais de 80 mulheres que conhecia. A defensora do projeto no Senado, a senadora Erin Maye Quade, confirmou que a proibição da lei sobre imagens consensuais foi "intencional".

A lei federal TAKE IT DOWN—assinada pelo presidente Donald Trump em maio de 2025—já cobre deepfakes íntimos não consensuais, mas exige prova de não consentimento e distribuição real, usa uma definição mais restrita de partes do corpo e inclui exceções para conteúdo educacional e médico. A xAI argumenta que esse é o modelo que Minnesota deveria ter adotado.

O procurador-geral Ellison não está recuando. "A nudificação por IA rouba a dignidade da vítima e pode causar danos imensos em nível emocional, pessoal e profissional", disse ele após o processo ser aberto.

O HF 1606 entra em vigor no sábado. A xAI quer que um juiz federal o impeça antes disso.