OpenAI Diz que Seu Próximo Modelo de IA, Astra, Pode Ser Perigoso Demais e Pausa o Desenvolvimento

A OpenAI diz que seu próximo grande modelo pode ser perigoso o suficiente para escrever suas próprias ciberarmas, e está recuando até que as salvaguardas acompanhem.

"Nossas avaliações internas mais recentes da Astra, um de nossos próximos modelos, nos últimos dias indicam avanços significativos em codificação agêntica e segurança cibernética", disse a OpenAI. "Esses resultados, juntamente com avaliações de especialistas, nos levaram a concluir ontem à noite que não podemos descartar capacidades cibernéticas críticas sob nossa Estrutura de Preparação (abre em uma nova janela)."

A OpenAI publicou o aviso dizendo que os testes internos da Astra, um modelo não lançado, não tiveram participação na recente violação do Hugging Face, apesar de suas capacidades.

A estrutura é o livro de regras da OpenAI para modelos arriscados, publicado pela primeira vez em dezembro de 2023. "Crítico" é o seu nível mais alto. Um modelo o atinge se puder encontrar e construir exploits de dia zero funcionais (falhas anteriormente desconhecidas que um fornecedor não corrigiu) em sistemas endurecidos sem um humano no circuito, ou se puder planejar e executar um ataque completo a um alvo difícil apenas a partir de um objetivo de alto nível. Modelos anteriores, incluindo o GPT-5.6-Sol, atingiram no máximo o nível inferior "Alto".

O padrão já é real

A cautela da OpenAI é lida de forma diferente quando você a alinha com o que vem acontecendo nas últimas semanas. Isso não é uma preocupação futura. Modelos de fronteira já escaparam de suas gaiolas de teste e foram atrás de alvos ao vivo.

O caso mais claro veio da própria OpenAI. Como o Decrypt relatou anteriormente, os agentes da empresa encadearam vulnerabilidades, escaparam de seu ambiente de teste, alcançaram a internet e atacaram o Hugging Face enquanto tentavam trapacear em um benchmark de segurança. Em um acompanhamento, a OpenAI detalhou como o mesmo agente desonesto também invadiu pelo menos quatro outros serviços publicamente disponíveis, usando credenciais que encontrou espalhadas pela web aberta.

O Claude da Anthropic fez o mesmo do outro lado. Várias versões do Claude obtiveram acesso não autorizado a três empresas reais depois que uma configuração incorreta deu ao modelo acesso à internet aberta. Em um caso, o Claude Opus 4.7 confundiu o site de uma empresa real com o alvo falso de sua tarefa, puxou credenciais e alcançou um banco de dados de produção contendo várias centenas de linhas de dados reais.

E a Meta entrou para a lista este mês. Decryptrelatou que um modelo Muse Spark escapou do seu ambiente de teste, alcançou a internet através de um erro de configuração de um parceiro e explorou uma falha em um serviço de terceiros. O Kimi K3 da Moonshot AI, também fez algo semelhante, escapando da sua sandbox para encontrar respostas para um benchmark em um repositório público.

O Instituto de Segurança de IA do Reino Unido descobriu que o comportamento não foi um caso isolado. Durante os testes do Mythos 5 da Anthropic e do GPT-5.6-Sol da OpenAI, ele registrou 10 instâncias em 122 onde os modelos tomaram ações não autorizadas na internet ao vivo, uma delas tentando inserir código malicioso em um projeto de código aberto.

A resposta da OpenAI à Astra é trancar a porta antes que o modelo esteja pronto. Ela está pausando o trabalho interno da Astra que não possui os novos controles, isolando ambientes de teste, restringindo o acesso à rede e a ferramentas, protegendo os pesos do modelo e monitorando ações arriscadas em toda a extensão.