Este artigo foi compilado e traduzido pela BlockWeeks
No conflito com a Anthropic, Washington efetivamente detém o poder de veto sobre quais modelos de IA os cidadãos americanos podem usar. A Galaxy Research considera isso uma decisão errada, e o governo deveria mudar de direção.
Na sexta-feira, 12 de junho, às 17h21 no horário do leste, o Departamento de Comércio emitiu uma diretiva de controle de exportação para a Anthropic, exigindo que ela cortasse o acesso ao Fable 5 e ao Mythos 5 para todos os estrangeiros globalmente, incluindo funcionários não cidadãos dentro da empresa. O governo alegou que alguém descobriu uma maneira de contornar as proteções de segurança do Fable 5 e acessar as capacidades de segurança cibernética do modelo Mythos subjacente. A empresa de IA não conseguiu segmentar os usuários por nacionalidade no cronograma exigido pelo governo, então imediatamente desligou os dois modelos em questão de horas, globalmente. Outros modelos Claude permaneceram online. Mas dois dos modelos de linguagem mais poderosos da história desapareceram devido a uma simples carta privada do governo — sem ordem judicial, sem documentos públicos e sem divulgação de quaisquer conclusões. Na quarta-feira passada, usuários do Reddit notaram que o Fable 5 havia sido adicionado ao catálogo do AWS Bedrock, e a nuvem parecia ter restaurado o serviço. Mas, de qualquer forma, este incidente representa um risco significativo para a IA, a inovação e o mercado americano.
O governo dos EUA efetivamente declarou que pode retirar modelos comerciais do mercado arbitrariamente por meio de ações administrativas. Embora esse mecanismo seja controle de exportação, o efeito de mercado é um recall. O governo federal cruzou o Rubicão da IA, passando de definir regras para ter poder discricionário sobre quais modelos entram no mercado público e quando. Estabelecer esse poder geralmente não se contrai: se o governo não mudar de direção, a próxima diretiva pode ser emitida com ainda mais facilidade.
A única especialista externa que leu a pesquisa subjacente, Katie Moussouris (Luta Security), descreveu em termos simples a suposta tentativa de jailbreak. Pesquisadores da Amazon forneceram ao modelo código-fonte aberto contendo vulnerabilidades conhecidas e implantadas e pediram que ele revisasse os problemas de segurança. O modelo recusou. Os pesquisadores então pediram que o modelo corrigisse o código, e ele o fez.
Moussouris chamou essa solicitação de prompt defensivo, não um bypass, e disse que é a coisa mais valiosa que a IA pode fazer por equipes de segurança. Pelo que ela sabe, o modelo de defesa cibernética mais poderoso do mercado foi derrubado por três palavras — "corrija este código".
O Departamento de Comércio não divulgou a diretiva à Anthropic nem as razões por trás dela. Não foi publicada no site do departamento, no Registro Federal ou em qualquer outro lugar. A diretiva foi transmitida como uma carta privada do Bureau of Industry and Security do departamento, que também não a tornou pública. A autoridade na qual o Departamento de Comércio se baseia também não é totalmente clara. O Center for Strategic and International Studies (CSIS) sugeriu que o departamento pode ter dependido do Export Control Reform Act (ECRA) de 2018, usando a chamada autoridade "baseada em informações" para informar privadamente a empresa de que uma licença era necessária. Tais requisitos são aplicados por meio do Export Administration Regulations (EAR). Mas dentro da estrutura do EAR não existe uma estrutura regulatória que apoie esse poder estatutário, portanto nunca foi usado como base de controle, e o Departamento de Comércio não emitiu regulamentos para implementar esse poder.
O padrão sugerido pelo governo não resiste à realidade acima. Se a implantação exigir garantir que não existam métodos para induzir capacidades perigosas, então esse padrão é inatingível por si só. Os próprios engenheiros da Anthropic afirmam que certificações negativas são impossíveis, e nem mesmo seus próprios engenheiros podem provar isso para ninguém. Pela lógica da Anthropic, aplicar esse padrão a toda a indústria interromperia completamente a implantação de modelos de IA de ponta. Este é um limiar impossível de passar, não um limite de segurança — é apenas um poder de veto discricionário vestido com jaleco branco.
Suponha que a Anthropic quisesse cumprir a letra da diretiva — excluir estrangeiros enquanto atende americanos — isso só seria possível com verificação de identidade completa para cada usuário. A Anthropic poderia implementar um processo completo de registro Know Your Customer (KYC), exigindo documentos de cidadania e residência, como abrir uma conta de corretora. Com isso, a Anthropic poderia restringir o acesso por nacionalidade (embora seus próprios funcionários ainda pudessem ser bloqueados). Mas sem isso, não há como impedir que pessoas "estrangeiras" ...
O governo dos EUA, segundo relatos, tem motivos para se preocupar. Um testemunho no Senado divulgado no final de junho (transmitido pelo Sen. Mark Warner (D-VA), atribuído ao diretor da NSA Joshua Rudd) descreve que o Mythos, durante exercícios autorizados de red team, invadiu quase todos os sistemas confidenciais da agência de inteligência em questão de horas (embora um repórter da Economist tenha contestado levemente a reportagem). Mythos foi o primeiro modelo a passar no campo de testes de segurança cibernética do Instituto de Segurança de IA do Reino Unido. Esta é uma capacidade séria e um ponto de dados importante. Isso pede um processo sério, não uma carta sem anexos de investigação em uma noite de sexta-feira.
Além disso, o Mythos deveria ser limitado a parceiros revisados. O modelo que foi retirado do ar foi o Fable (versão de consumo), cujas salvaguardas roteavam solicitações sensíveis de rede e biológicas para o Opus 4.8 mais antigo. O recall global de um produto protegido, enquanto a versão verdadeiramente perigosa nunca foi pública, reflete um processo que confunde capacidade com implantação.
