Em resumo
- Minnesota está lutando contra a tentativa da xAI de bloquear a lei estadual inédita que visa imagens sexuais geradas por IA.
- A xAI afirma que a lei viola a Primeira Emenda, enquanto Minnesota argumenta que o Grok Imagine é uma ferramenta tecnológica, não discurso protegido.
- O estado acusou a xAI de criar um "mercado sem paralelo para violência sexual digital" enquanto um juiz federal se prepara para ouvir o caso na quarta-feira.
Minnesota está lutando contra a xAI de Elon Musk por causa da tentativa da empresa de bloquear a HF-1606, uma lei estadual inédita que visa ferramentas de IA que geram imagens sexuais realistas de pessoas identificáveis.
Em um documento judicial de sexta-feira, o procurador-geral de Minnesota, Keith Ellison, argumentou que a xAI provavelmente não terá sucesso em seu desafio constitucional e não conseguiu demonstrar que a aplicação da lei causaria danos irreparáveis.
“Com o Grok Imagine, a X.AI criou um mercado incomparável para violência sexual digital que praticamente não apresenta barreiras de entrada”, escreveu Ellison. “Esse mercado, juntamente com as capacidades funcionais do Grok Imagine, condenaria Minnesota desde o início se não pudesse direcionar suas leis para a tecnologia que torna possível a vitimização sexual digital em primeiro lugar.”
A lei, promulgada em abril e que entrou em vigor em 1º de agosto, proíbe plataformas e desenvolvedores de software de permitir que usuários criem imagens realistas mostrando partes íntimas do corpo que não apareciam na imagem original de uma pessoa identificável.
Antes da implementação da lei, em julho, a xAI processou Ellison para bloquear a lei, argumentando que ela viola a Primeira Emenda e pode ser aplicada a imagens protegidas, incluindo homens sem camisa, nadadores e sátira política. As violações acarretam penalidades de até US$ 500.000 por imagem.
“Não há porto seguro para os esforços de boa-fé do provedor de ferramentas criativas de IA de propósito geral para evitar danos”, escreveu a xAI em sua queixa. “A responsabilidade é atribuída mesmo que as pessoas retratadas tenham consentido – ou criado a imagem elas mesmas – e mesmo que a imagem nunca seja compartilhada.”
Minnesota aprovou a medida por 132-1 na Câmara e 65-0 no Senado, depois que legisladores ouviram relatos de um homem que usou fotos de redes sociais para criar imagens sexuais de mais de 80 mulheres que conhecia.
"Hoje, lideramos a nação protegendo mulheres, crianças e todos na vida pública dos danos causados pela tecnologia de nudificação por IA", disse a senadora Maye Quade, que liderou o esforço, em um comunicado na época. "Empresas que disponibilizam essa tecnologia gratuitamente online e em lojas de aplicativos não poderão mais permitir que predadores abusem e vitimizem adultos e crianças com o clique de um botão.
O caso agora se concentra em se a lei regula discurso ou tecnologia.
Grok também enfrentou escrutínio sobre deepfakes sexualmente explícitos.
Em janeiro, uma organização de vigilância estimou que Grok gerou mais de 23.000 imagens sexualizadas de crianças em 11 dias, provocando investigações em vários países.
Em março, três menores na Califórnia se juntaram a outros no processo contra a xAI, alegando que Grok foi usado para transformar suas fotos em material de abuso sexual infantil gerado por IA. A xAI disse que suspendeu mais de 50.000 contas e apresentou mais de 70.000 relatórios ao Centro Nacional para Crianças Desaparecidas e Exploradas em 2026.
