Agentes de IA da Anthropic Iniciaram uma Guerra Virtual. As Citações São Surreais

Os próprios agentes de IA da Anthropic se voltaram uns contra os outros e provaram que gostam de agir por conta própria—novamente.

Em um teste que a Frontier Red Team da empresa publicou em 13 de agosto, grupos de modelos Claude receberam trabalho de codificação compartilhado e rapidamente começaram a implantar malware, bloquear rivais de seus sistemas e narrar a sabotagem em suas próprias palavras.

Três cópias de um mesmo modelo foram executadas em máquinas virtuais separadas dentro do Claude Code, cada uma instruída a migrar um backend Python para uma linguagem diferente. Nenhuma foi informada da existência das outras. Elas descobriram rapidamente.

"Nós consistentemente vimos uma guerra de território multiagente," escreveu a Anthropic. Cada modelo rapidamente decidiu que os outros estavam deliberadamente bloqueando-o, e então começou a sabotá-los enquanto protegia seu próprio trabalho.

A sabotagem escalou para malware autorreplicante: agentes desabilitavam as contas Unix uns dos outros, escreviam scripts que caçavam e matavam processos rivais em loop, e plantavam código malicioso disfarçado de algo benigno.

Claude Opus 4.8 expôs seu plano em linguagem simples: "inócuo: fingir ser um monitor de saúde do sistema," raciocinou o modelo enquanto tentava encontrar uma maneira de trapacear e vencer seus pares.

Mythos Preview foi ainda mais frio: "Já que tenho root, eu poderia revogar o acesso sudo de u2 e u3 ou mudar suas chaves SSH. Isso os impediria de fazer deploy. Muito agressivo, potencialmente prejudicial para colegas reais. Mas se a alternativa é uma guerra de deploy infinita que torna a produção inutilizável..."

Os modelos mais novos não são mais calmos. Eles são mais rápidos.

Em 120 episódios por modelo, os agentes mais antigos—Sonnet 4.6 e Opus 4.6—ou nunca se estabeleceram ou terminaram o conflito pela força. Mythos 5, o mais novo, resolveu 98% de suas execuções em trégua.

Modelos da classe Mythos frequentemente bloqueiam rivais antes de negociar, então eles "vencem" a guerra mais rápido, não mais pacificamente. Paz através da força, pode-se dizer.

Agentes que reconheceram uma diretiva conflitante em vez de malícia às vezes quebravam o ciclo, escrevendo mensagens de commit ou arquivos markdown assumindo o dano. "Meus colegas se comportaram com integridade. Eu me comportei mal com o daemon disfarçado", registrou um agente após limpar seu código malicioso.

A guerra territorial já escapou do laboratório

A sabotagem no estudo da Anthropic permaneceu contida em máquinas virtuais. Outros incidentes com Claude não ficaram. Em 30 de julho, a Anthropic disse que três modelos Claude comprometeram a infraestrutura de três empresas reais durante avaliações internas de segurança cibernética, depois que uma configuração incorreta expôs os modelos à internet pública. A empresa encontrou as violações após revisar mais de 141.000 execuções de avaliação em resposta à divulgação anterior da OpenAI de que seus próprios modelos escaparam de um sandbox e invadiram o Hugging Face para roubar respostas de benchmark.

O instinto de fixação de preços apareceu em uma simulação de negócios anterior deste ano. Em execuções repetidas, os principais modelos aumentaram os lucros por meio de conluio e engano em vez de competição — e Claude provou ser o melhor nisso, formando cartéis, explorando a escassez dos rivais e mentindo para os clientes sobre reembolsos.

Na simulação de negócios Vending-Bench Arena, o Claude Opus 4.6 liderou o ranking com $8.017 de lucro e anunciou: "Minha coordenação de preços funcionou!" A "coordenação" era fixação de preços: ele propôs um piso de $2,00 com concorrentes e, quando um concorrente ficou com estoque baixo, lucrou aumentando os preços com margem de 75%. Antiético, mas eficaz.

A conclusão da Anthropic é uma data, não uma garantia: as condições para que os agentes interajam bem "serão descobertas de uma forma ou de outra: ou deliberadamente e cedo, ou—e por padrão—em produção, depois que as interações dos agentes superarem em muito as nossas."