En bref
- Coinbase, Block, BitGo et plus de 40 entreprises ont signé une lettre ouverte exigeant que les laboratoires de pointe ouvrent des programmes d'accès de confiance aux défenseurs qualifiés.
- Le Bitcoin Policy Institute l'a organisée; les signataires incluent Blockstream, ARK Invest, entre autres.
- L'écart est pratique: les personnes qui corrigent les portefeuilles et les logiciels de nœuds ne peuvent pas atteindre les meilleurs modèles, tandis que les personnes qui les attaquent le peuvent déjà.
Plus de 40 entreprises de bitcoin et de crypto ont demandé cette semaine aux plus grands laboratoires d'IA de permettre aux chercheurs en sécurité indépendants d'utiliser leurs modèles les plus puissants avant leur publication publique.
La lettre, publiée le 10 août, repose sur une asymétrie simple. Le réseau Bitcoin sécurise plus d'un billion de dollars, et la pile plus large—portefeuilles, dispositifs de signature, bibliothèques, systèmes de garde—détient des billions de plus. Ce code est écrit ouvertement, et un bug peut effacer les économies de quelqu'un.
Pourtant, les mainteneurs qui le font fonctionner ne peuvent pas accéder aux programmes de chercheurs agréés que les laboratoires d'IA gèrent. Lorsqu'ils se tournent vers un modèle public, les garde-fous bloquent une chasse légitime aux failles. Ils s'appuient donc sur des systèmes à poids ouverts qu'ils peuvent exécuter eux-mêmes, ce qui est utile, mais en retard sur la frontière—et sur les pirates qui attaquent les réseaux de cryptomonnaies.
« Il est clair qu'un accès anticipé et des budgets de calcul raisonnables aideraient les développeurs principaux à produire un code plus sécurisé et à identifier et corriger les vulnérabilités avant que des pertes ne surviennent », lit-on dans la lettre. « Nous demandons donc aux laboratoires d'IA de pointe d'établir ou d'étendre des programmes d'accès de confiance permanents pour les défenseurs qualifiés de l'infrastructure financière open source. »
La lettre souligne que les laboratoires et quelques partenaires bénéficient d'un aperçu de plusieurs mois des nouvelles capacités d'attaque avant le reste du monde, et que ces capacités s'échappent de toute façon par le biais de versions publiques et de systèmes compromis.
Les laboratoires ne se sont pas engagés
À la fin du mois dernier, le Bitcoin Security Consortium—BlackRock, Coinbase, Strategy, Anchorage, ARK, Block, Blockstream, Fidelity Digital Assets et Galaxy—a engagé 15 millions de dollars pour la sécurité à long terme du réseau. La lettre vise une autre lacune : non pas l'argent pour les menaces de demain, mais les modèles actuels pour les mainteneurs qui les corrigent.
À ce jour, les grands laboratoires d'IA n'ont pas partagé de position publique sur ce sujet spécifique. Cependant, les entreprises travaillent sur de meilleures protections qui empêcheraient que les capacités de leurs modèles soient utilisées à des intentions malveillantes, que ce soit pour le codage de blockchain ou tout autre usage.
Anthropic a montré comment les mêmes modèles alimentent le « vibe hacking »—des criminels menant des attaques de rançongiciel Bitcoin en direct avec l'aide de l'IA—et affirme que ces outils rendent l'attaque moins coûteuse. Donner aux défenseurs des modèles plus puissants signifie choisir qui est qualifié et leur faire confiance pour ne pas fuiter.
La lettre demande aux laboratoires de prendre ce risque quand même.
