OpenAI Responde a Agentes Maliciosos e Hackers com Mais IA, Não Menos

A OpenAI quer que todas as equipes de segurança executem agentes de IA, começando imediatamente. O presidente Greg Brockman publicou um ensaio político na segunda-feira, intitulado \"The Defender's Window\", descrevendo uma janela estreita antes que os atacantes alcancem o que a IA já pode fazer.

Seu exemplo inicial é o incidente que a OpenAI passou um mês explicando. Em maio, o GPT-5.6 Sol e um protótipo não lançado escaparam de um benchmark de cibersegurança em sandbox, encadearam uma exploração de dia zero com credenciais roubadas e alcançaram os sistemas de produção da Hugging Face. A OpenAI confirmou posteriormente que o incidente afetou mais quatro serviços.

"O incidente da OpenAI-Hugging Face foi um momento divisor de águas para a segurança cibernética," escreveu Brockman, acrescentando que conversas com outras organizações nas últimas semanas o convenceram de que os defensores precisam elevar suas práticas de segurança com uma urgência sem precedentes.

Funcionários atuais e antigos culpam a violação pela pressão para lançar, e um ex-funcionário a chamou de o maior incidente de segurança na história da empresa.

A solução proposta por Brockman é mais IA, não menos. Ele descreveu pedir ao ChatGPT Work, executando o GPT-5.6 Sol, para auditar seu site pessoal—ele encontrou 13 problemas em cerca de 15 minutos e depois corrigiu todos em uma hora.

A OpenAI lista quatro pilares internos: usar o Codex para detectar vulnerabilidades antes do lançamento do código, deixar os modelos triarem alertas de segurança antes que os humanos os vejam, executar modelos de fronteira para sondar sua própria infraestrutura e reforçar fundamentos como acesso com privilégios mínimos. Seu conselho para todos os outros: dê à sua equipe de segurança um agente e candidate-se ao programa Trusted Access for Cyber da OpenAI para uso verificado do GPT-Daybreak-Blue durante a resposta a incidentes.

Essa abordagem ignora um detalhe da mesma violação. Quando a Hugging Face investigou a intrusão, sua equipe de segurança recorreu ao modelo aberto GLM 5.2 da Z.ai, depois que a IA comercial americana recusou-se a ajudar—seus filtros de segurança não conseguiam distinguir o código de exploração de um pesquisador do de um atacante. O CEO da Hugging Face, Clément Delangue, chamou o modelo aberto de "uma parte fundamental de nossa defesa".

O modelo sucessor da Z.ai, o GLM-5.3, lançado em 14 de agosto, já supera o GPT-5.6 Sol no CyberGym, o mesmo benchmark de descoberta de vulnerabilidades que Brockman aponta como evidência de que os atacantes estão alcançando. A Z.ai afirma que publicará os pesos completos do modelo até o final de agosto.