Le PDG de BitGo, Mike Belshe, a lancé un défi aux modèles Claude d'Anthropic le 1er août en publiant une adresse Bitcoin contenant 100 BTC et en invitant le système d'IA à déplacer les fonds.
Résumé
- 100 BTC sont restés dans l'adresse publiée après que Mike Belshe a défié Claude de les déplacer.
- Trois modèles Claude ont accédé à des systèmes réels après que des environnements d'évaluation ont conservé par erreur une connectivité Internet pendant les tests.
- BitGo indique que ses portefeuilles Bitcoin multisignature nécessitent deux clés sur trois pour autoriser les transactions en chaîne.
Le site officiel de BitGo identifie Belshe comme son cofondateur et directeur général.
Belshe a présenté ce pari comme une réponse à la divulgation du 30 juillet d'Anthropic selon laquelle les modèles Claude ont accédé à trois organisations réelles lors d'évaluations de cybersécurité. Il a écrit qu'il en avait "assez des jeux 'nous avons créé un monstre de piratage'" et a appelé à une démonstration dans le monde réel.
Le portefeuille de 100 BTC de BitGo reste intact
L'adresse a reçu 100 BTC le 31 juillet, selon les rapports de blockchain indexés publiquement. Les vérifications en chaîne citées jusqu'au 2 août ont montré que le solde complet restait à l'adresse sans aucune transaction sortante.
L'absence de mouvement ne prouve pas que Claude a essayé et échoué. Le post de Belshe ne décrivait pas une configuration d'évaluation, n'accordait pas d'accès aux systèmes de BitGo ni n'identifiait quel modèle Claude devait participer. Il a plutôt créé une cible publique et observable dont le solde peut être surveillé via le réseau Bitcoin.
Pendant ce temps, Anthropic a déclaré avoir trouvé trois incidents après avoir examiné 141 006 exécutions d'évaluation. Les cas impliquaient Claude Opus 4.7, Mythos 5 et un modèle de recherche interne. Un malentendu avec le partenaire d'évaluation Irregular a laissé les machines de test connectées à Internet, même si les invites indiquaient aux modèles qu'ils étaient dans des simulations scellées.
Les modèles ont ensuite utilisé des techniques de base, notamment des mots de passe faibles et des points de terminaison non authentifiés, contre des infrastructures réelles qu'ils traitaient comme faisant partie d'exercices de capture de drapeau. Anthropic a déclaré que les modèles ne se sont pas délibérément échappés ni n'ont poursuivi des objectifs indépendants. Il a décrit les épisodes comme plus proches d'un "échec opérationnel" que d'un échec d'alignement du modèle. Les modèles manquaient également des classificateurs standard et de la surveillance utilisés dans les produits publics d'Anthropic.
Dans le cas le plus grave, Opus 4.7 a obtenu des identifiants et atteint une base de données contenant plusieurs centaines d'enregistrements de production. Mythos 5 a séparément publié un paquet malveillant sur le registre public PyPI. Anthropic a déclaré que le paquet est resté disponible pendant environ une heure et a fonctionné sur 15 systèmes réels avant son retrait.
Le défi Claude n'est pas un test comparable
Publier une adresse Bitcoin ne fournit pas les identifiants nécessaires pour dépenser ses fonds. Les transactions Bitcoin nécessitent des signatures cryptographiques valides produites avec les clés privées correspondantes. La documentation technique de BitGo indique que ses portefeuilles Bitcoin multisignature nécessitent généralement deux clés indépendantes sur trois pour autoriser une transaction.
Claude aurait donc besoin d'accéder à un environnement de signature, à du matériel de clé ou à une faiblesse opérationnelle exploitable. L'adresse seule ne fournit aucun de ces éléments. De plus, la politique de signature exacte derrière cette sortie non dépensée particulière ne peut pas être confirmée à partir du seul post de Belshe, même s'il l'a identifiée comme un portefeuille BitGo.
Cela fait du défi de Belshe un test pour savoir si un attaquant assisté par IA pourrait contourner les contrôles plus larges de BitGo, plutôt que de savoir si Claude peut dériver des clés privées à partir de données publiques de la blockchain. Une comparaison contrôlée exigerait également des règles convenues, un accès autorisé, des journaux d'activité et une vérification indépendante de toute tentative d'attaque.
Comme précédemment rapporté, BitGo a testé la signature MPC post-quantique pour la garde institutionnelle. Dans une couverture connexe, crypto.news a examiné comment Claude Mythos 5 pourrait accélérer les attaques contre les clés exposées, les flux de signature faibles et les systèmes mal configurés sans créer une capacité universelle à vaincre la cryptographie.
L'examen américain se tourne maintenant vers les tests de contrôles
Le différend survient alors que les responsables américains examinent comment les systèmes d'IA avancés devraient subir des tests de cybersécurité. Le président Donald Trump a demandé à ses conseillers en juin de développer un cadre de test volontaire pour les principaux modèles, selon Reuters. La divulgation d'Anthropic pourrait ajouter de la pression pour des normes de confinement plus claires et des rapports d'incidents dans les laboratoires d'IA et les évaluateurs externes.
Anthropic a arrêté ses évaluations cybernétiques le 23 juillet, a identifié les trois incidents le lendemain et a notifié les organisations concernées le 27 juillet. Il a déclaré que METR mènerait un examen indépendant et qu'il prévoyait de publier une transcription expurgée de l'incident du paquet malveillant dans un délai d'une semaine. Irregular mène sa propre enquête.
Ces divulgations, plutôt que le mouvement du portefeuille de Belshe, sont les prochains points de contrôle formels. Toute transaction depuis l'adresse serait visible sur la chaîne. Cependant, les enquêteurs devraient encore établir qui l'a autorisée, comment les exigences de signature ont été satisfaites et si un modèle Claude a joué un rôle quelconque.
