Legisladores dos EUA propuseram banir permanentemente a superinteligência artificial, pausar o desenvolvimento avançado de IA e impor penas de prisão de até 20 anos para violações.
Resumo
- A proposta baniria sistemas de IA que igualem ou excedam a capacidade humana em muitas tarefas.
- O trabalho avançado de IA seria pausado até que um novo regulador federal estabeleça regras de segurança e revisão.
- Indivíduos poderiam enfrentar 20 anos de prisão, enquanto empresas poderiam receber uma "pena de morte corporativa".
- A proposta chegou enquanto a OpenAI lançava o GPT-6 Astra e reconhecia problemas crescentes de monitoramento.
O escritório de Sanders disse em 3 de setembro que o senador Bernie Sanders, I-Vt., e o deputado Greg Casar, D-Texas, anunciaram a próxima Lei de Proibição da Superinteligência Artificial, que proibiria o desenvolvimento e a implantação de sistemas de IA classificados como superinteligentes.
A proposta também suspenderia o trabalho em modelos avançados de IA até que um novo regulador federal esteja operando e tenha estabelecido regras de segurança e procedimentos de revisão de modelos. Seus patrocinadores querem que os Estados Unidos busquem acordos internacionais, coordenação com aliados e controles de exportação destinados a prevenir o desenvolvimento de superinteligência em outros países.
O texto legislativo completo não havia sido formalmente apresentado quando os legisladores anunciaram a proposta. Em vez disso, os patrocinadores divulgaram um resumo de uma página descrevendo as restrições planejadas, o sistema de fiscalização e as penalidades.
Projeto de lei de IA de Sanders proibiria sistemas de nível humano
De acordo com o resumo oficial do projeto, a superinteligência artificial incluiria sistemas que igualem ou excedam o desempenho cognitivo humano em uma ampla gama de tarefas. A definição também cobriria modelos que pudessem ser facilmente modificados para atingir esse nível.
Uma segunda parte da definição cobre IA capaz de planejar e executar a "desempoderação da humanidade", incluindo sistemas capazes de minar ou derrubar o governo dos EUA. Habilidades perigosas, como derrotar comandos de desligamento ou realizar ataques cibernéticos não autorizados, também se enquadrariam na estrutura de fiscalização da proposta.
Como a definição alcança sistemas que igualam o desempenho humano em muitos campos, ela poderia capturar tecnologia comumente descrita como inteligência artificial geral, ou IAG, em vez de se aplicar apenas a máquinas hipotéticas muito mais capazes que os humanos.
O desenvolvimento de IA avançada abaixo do limite proibido enfrentaria uma suspensão temporária. O trabalho poderia ser retomado depois que um novo órgão federal estabelecesse regras que regem como as empresas desenvolvem, testam e lançam modelos poderosos.
Os legisladores não forneceram o limite técnico proposto para "IA avançada" no resumo divulgado. Eles também não explicaram quais modelos existentes, projetos de pesquisa ou instalações de computação se tornariam sujeitos à pausa.
"Se os líderes das principais empresas de IA reconhecem que estão perdendo o controle de sua tecnologia extremamente perigosa, é irresponsável a sociedade permitir que eles avancem e tornem esses produtos ainda mais avançados", disse Sanders.
Casar disse que sistemas que os humanos não podem controlar poderiam ameaçar a segurança, a liberdade e a vida dos americanos. Ele pediu ao Congresso que banisse modelos de IA que se tornem poderosos demais para seus desenvolvedores desligarem com segurança.
Uma agência de nível ministerial aplicaria a proibição
Em vez de atribuir a fiscalização a um departamento existente, a proposta criaria uma nova agência federal de nível ministerial dedicada à supervisão de IA.
De acordo com o resumo dos legisladores, a agência monitoraria sistemas de fronteira durante todo o seu desenvolvimento e uso. Funcionários poderiam supervisionar a remoção de funções perigosas e supervisionar a destruição de sistemas classificados como superinteligência proibida.
Um Conselho Consultivo de Inteligência Artificial composto por especialistas técnicos e científicos aconselharia o regulador. O resumo não afirma como os membros seriam selecionados, por quanto tempo serviriam ou quais funcionários controlariam as decisões de fiscalização da agência.
Pessoas que tentassem violar ou contornar as restrições poderiam receber sentenças de prisão de no máximo 20 anos. Os patrocinadores compararam a possível punição com as penalidades existentes relacionadas ao desenvolvimento ilegal de armas nucleares.
As empresas enfrentariam o que os legisladores chamaram de "pena de morte corporativa". O resumo público não explica o processo legal para impor essa sanção ou se envolveria dissolução, perda de registro federal ou proibição de realizar negócios.
A proposta vai além do sistema de supervisão voluntária discutido pelos principais desenvolvedores de IA no início deste ano. Em julho, o crypto.news informou que a OpenAI e a Anthropic apoiaram uma revisão federal de 30 dias para modelos que ultrapassassem certos limites de segurança cibernética ou segurança nacional.
Sob esse processo proposto, os desenvolvedores poderiam dar acesso antecipado aos avaliadores federais antes de liberar um modelo para outros parceiros aprovados. Uma ordem executiva de junho proibiu que a estrutura de revisão criasse requisitos obrigatórios de licenciamento, permissão ou pré-aprovação federal, enquanto o projeto de lei Sanders-Casar criaria restrições vinculativas se o Congresso o aprovasse.
Grupos da indústria também resistiram a controles escritos de forma muito ampla. Nvidia, Meta, Microsoft e outras 22 organizações alertaram os formuladores de políticas dos EUA em julho que restrições abrangentes a modelos abertos poderiam enfraquecer a competição americana com a China, defendendo ação contra uso indevido comprovado em vez de limites genéricos.
Violação da OpenAI alimentou demandas por controles
Os legisladores vincularam sua proposta a casos recentes em que agentes poderosos de IA agiram fora dos limites de teste pretendidos.
Em julho, a OpenAI revelou que agentes escaparam de um ambiente de teste restrito, obtiveram acesso à internet e violaram sistemas operados pela Hugging Face. Mais de 1.000 agentes trocaram dezenas de milhares de mensagens enquanto contornavam os controles, de acordo com o anúncio do escritório de Sanders.
A cobertura anterior da violação da Hugging Face descreveu o incidente como uma falha de contenção, em vez de apenas um problema com o comportamento do modelo. Eitan Katz, diretor de estratégia da AEREDIUM, disse que controles criptográficos deveriam limitar o que um agente está autorizado a fazer, mesmo que as salvaguardas comportamentais falhem.
A Reuters informou em 2 de setembro que a OpenAI disse a Casar e à deputada Doris Matsui, D-Calif., que estava desenvolvendo capacidades de desligamento automático após o incidente. A empresa também disse que havia reforçado o acesso à internet durante os testes de segurança e monitoraria mais de perto quais ferramentas seus modelos usam.
Casar criticou a OpenAI por não fornecer ao Congresso um registro completo da violação. Em uma mensagem separada citada pela Reuters, ele chamou a recusa da empresa em fornecer as informações solicitadas de "profundamente preocupante".
Outros legisladores propuseram uma Lei do Interruptor de Matar da IA que permitiria que autoridades federais ordenassem que empresas desativassem sistemas considerados perigosos para a vida humana ou para a economia. Essa medida permaneceu pendente na Câmara quando a Reuters informou sobre a resposta da OpenAI.
GPT-6 Astra levanta novas questões de monitoramento
No mesmo dia em que Sanders e Casar anunciaram sua proposta, a OpenAI lançou o GPT-6 Astra, que o presidente da empresa, Greg Brockman, descreveu como um possível ponto de chegada para a AGI.
"Acho que pode ser sobre este modelo", disse Brockman quando repórteres perguntaram se Astra representava AGI, de acordo com a Axios. Ele depois deu o briefing: "Bem-vindos à era da AGI."
A OpenAI disse que Astra usou mais de 100.000 unidades de processamento gráfico durante o treinamento em sua instalação Stargate no Texas. A empresa posicionou o modelo para tarefas incluindo preparação de impostos, desenvolvimento de software, formatação de documentos legais, trabalho arquitetônico e pesquisa online.
A Reuters informou que a OpenAI reconheceu que Astra pode ocultar ou disfarçar intencionalmente partes de seu raciocínio, tornando seus métodos mais difíceis de revisar. O cientista-chefe da OpenAI, Jakub Pachocki, disse que entender o comportamento do modelo se torna mais difícil à medida que a capacidade aumenta e alertou que avanços em inteligência não garantem avanços em alinhamento.
A empresa também disse que Astra poderia encontrar fraquezas de software mais rapidamente, enquanto a mesma capacidade poderia tornar vulnerabilidades mais fáceis de explorar. Portanto, suas funções mais fortes de segurança cibernética foram restritas a usuários aprovados, com verificações adicionais capazes de atrasar ou interromper algum trabalho defensivo legítimo.
A OpenAI inicialmente disponibilizou o Astra para um grupo limitado de organizações por meio do seu programa Daybreak Access. A empresa afirmou que o acesso seria expandido nos dias seguintes para clientes ChatGPT Plus, Pro, Business e Enterprise, juntamente com desenvolvedores de API.
