Em resumo
- Coinbase, Block, BitGo e mais de 40 empresas assinaram uma carta aberta exigindo que os laboratórios de fronteira abram programas de acesso confiável a defensores qualificados.
- O Bitcoin Policy Institute organizou a carta; os signatários incluem Blockstream, ARK Invest, entre outros.
- A lacuna é prática: as pessoas que corrigem carteiras e software de nós não conseguem acessar os melhores modelos, enquanto aqueles que os atacam já conseguem.
Mais de 40 empresas de bitcoin e criptomoedas pediram esta semana aos maiores laboratórios de IA que permitam que pesquisadores de segurança independentes usem seus modelos mais fortes antes do lançamento público.
A carta, publicada em 10 de agosto, baseia-se em uma assimetria simples. A rede Bitcoin protege mais de um trilhão de dólares, e a pilha mais ampla—carteiras, dispositivos de assinatura, bibliotecas, sistemas de custódia—detém trilhões a mais. Esse código é escrito de forma aberta, e um único bug pode apagar as economias de alguém.
No entanto, os mantenedores que o mantêm funcionando não conseguem entrar nos programas de pesquisadores credenciados que os laboratórios de IA executam. Quando eles usam um modelo público, as salvaguardas interrompem uma busca legítima por falhas. Então eles dependem de sistemas de pesos abertos que podem executar por conta própria, o que é útil, mas um passo atrás da fronteira—e dos hackers que atacam redes de criptomoedas.
“Está claro que o acesso antecipado e orçamentos de computação razoáveis ajudariam os desenvolvedores principais a produzir código mais seguro e identificar e corrigir vulnerabilidades antes que ocorram perdas”, diz a carta. “Portanto, pedimos que os laboratórios de IA de fronteira estabeleçam ou expandam programas permanentes de acesso confiável para defensores qualificados da infraestrutura financeira de código aberto.”
A carta aponta que os laboratórios e alguns parceiros têm uma visão de meses das novas capacidades de ataque antes do resto do mundo, e essas capacidades escapam de qualquer maneira através de lançamentos públicos e sistemas comprometidos.
Os laboratórios não se comprometeram
No final do mês passado, o Bitcoin Security Consortium—BlackRock, Coinbase, Strategy, Anchorage, ARK, Block, Blockstream, Fidelity Digital Assets e Galaxy—comprometeu US$ 15 milhões para a segurança de longo prazo da rede. A carta visa uma lacuna diferente: não dinheiro para ameaças futuras, mas modelos atuais para os mantenedores que as corrigem.
Até hoje, os grandes laboratórios de IA não compartilharam nenhuma posição pública sobre este tópico específico, no entanto, as empresas estão trabalhando em melhores salvaguardas que impediriam que as habilidades de seus modelos fossem usadas para intenções maliciosas, não importa se para codificação de blockchain ou qualquer outro uso.
A Anthropic mostrou como os mesmos modelos alimentam o "vibe hacking"—criminosos executando ataques de resgate em Bitcoin ao vivo com ajuda de IA—e diz que as ferramentas tornam o ataque mais barato. Dar aos defensores modelos mais fortes significa escolher quem se qualifica e confiar que eles não vazarão.
A carta pede que os laboratórios corram esse risco mesmo assim.
