OpenAI pergunta ao Congresso se desacelerar a IA seria legal

A OpenAI perguntou a membros do Congresso se empresas rivais de IA poderiam legalmente concordar em desacelerar o desenvolvimento, enquanto seu cientista-chefe insta o setor a estabelecer padrões de segurança compartilhados.

De acordo com aWIRED, que citou pessoas próximas à empresa, a OpenAI perguntou a legisladores nas últimas semanas se um acordo entre empresas de IA para desacelerar o desenvolvimento poderia violar leis antitruste.

O contato com legisladores segue o apelo por desacelerações voluntárias do cientista-chefe da OpenAI, Jakub Pachocki, até que os desenvolvedores possam demonstrar melhor que seus sistemas são seguros. Mas as empresas enfrentam pressão para continuar avançando mesmo quando seus próprios pesquisadores têm preocupações.

“A competição comercial e geopolítica no espaço da IA é incrivelmente intensa, levando a uma dinâmica preocupante em que as empresas são incentivadas a lançar produtos antes que seus riscos sejam totalmente compreendidos”, disse Miranda Bogen, tecnóloga-chefe do Center for Democracy and Technology, ao Decrypt.

“Mesmo quando a equipe interna sabe que mais pesquisa e testes são necessários, suas empresas enfrentam uma pressão imensa para cortar caminhos e pular testes críticos de segurança, apesar das evidências se acumulando sobre as consequências de avançar rápido demais”, acrescentou ela.

Um acordo para desacelerar o desenvolvimento da IA poderia levantar preocupações antitruste ao restringir a concorrência. Os senadores Adam Schiff e Jim Banks apresentaram legislação para proteger certas colaborações de segurança, sujeitas a aviso prévio ao Departamento de Justiça.

O debate sobre desacelerar o desenvolvimento da IA ocorre enquanto os Estados Unidos e a China competem pela liderança na tecnologia. O presidente dos EUA, Donald Trump, adiou uma ordem executiva sobre IA em maio devido a preocupações de que ela pudesse enfraquecer a liderança da América sobre a China. Trump depois assinou a ordem em junho, criando um processo de revisão voluntário para modelos avançados antes do lançamento.

Mais direto do que as preocupações com a segurança nacional, os incentivos financeiros poderiam dificultar um acordo.

“Cada avanço sob as condições atuais rende muitos milhões ou bilhões a mais em financiamento e coloca os criadores desse avanço em uma posição maior de poder e influência”, disse Duncan Sabien, chefe de comunicações do Machine Intelligence Research Institute, ao Decrypt.

Chamando a dinâmica de corrida armamentista de real, Sabien disse que a OpenAI e a Anthropic enfrentam pressão para continuar avançando apesar dos riscos incertos, porque cada novo sistema ajuda a construir sucessores mais capazes, permitindo que um rival se adiante se qualquer uma das empresas desacelerar sem um acordo compartilhado.

“Isso é especialmente verdadeiro já que os ganhos em inteligência são cumulativos; cada novo sistema torna mais fácil treinar e implantar o próximo sistema mais avançado”, disse ele. “Sem algum tipo de mecanismo de coordenação, recuar significa apenas que o outro cara obtém uma vantagem.

Em agosto, a OpenAI pausou o trabalho interno da Astra por falta de salvaguardas mais fortes devido a preocupações com segurança cibernética. No entanto, tanto a OpenAI quanto a Anthropic relaxaram seus compromissos de segurança em fevereiro, com o diretor científico da Anthropic, Jared Kaplan, argumentando que desacelerar o desenvolvimento de forma independente fazia menos sentido enquanto os concorrentes continuavam avançando.

O debate sobre desacelerar o desenvolvimento da IA aumentou esta semana depois que o ex-engenheiro da Anthropic Jacob Coxon anunciou publicamente sua renúncia, citando preocupações sobre os riscos que o desenvolvimento contínuo da IA representa para a humanidade.

“As pessoas que constroem IA acreditam sinceramente que ela poderia nos matar todos até o final da década”, disse Coxon no X, afirmando que não se tratava de uma “estratégia de marketing”.

“Se algo, muitos executivos e pesquisadores seniores vão moderar suas palavras na imprensa para parecerem sensatos — mas ouço as mesmas pessoas expressarem medo em particular. Nenhuma outra atividade humana representa esse nível de perigo”, escreveu ele.

No entanto, Sabien disse que os pesquisadores podem conquistar pouco ao sair se alguém simplesmente tomar o seu lugar.

“Se um número suficiente deles alcançar o conhecimento comum de que todos deveriam parar, então eles podem romper a barreira da coordenação e parar juntos, em vez de serem apenas substituídos pela próxima pessoa um pouco menos cautelosa”, disse ele.