Cet article est compilé et organisé par BlockWeeks
Dans le conflit avec Anthropic, Washington détient en réalité un droit de veto sur les modèles d'IA que les citoyens américains peuvent utiliser. Galaxy Research estime que c'est une décision erronée et que le gouvernement devrait changer de cap.
Vendredi 12 juin à 17h21 heure de l'Est, le département du Commerce a envoyé à Anthropic une directive de contrôle des exportations lui demandant de couper l'accès à Fable 5 et Mythos 5 pour tous les étrangers dans le monde, y compris les employés non citoyens au sein de l'entreprise. Le gouvernement a affirmé que quelqu'un avait trouvé un moyen de contourner les protections de sécurité de Fable 5 et d'accéder aux capacités de cybersécurité du modèle Mythos sous-jacent. L'entreprise d'IA n'a pas pu effectuer la segmentation par nationalité des utilisateurs dans les délais requis par le gouvernement, elle a donc immédiatement fermé les deux modèles en quelques heures, à l'échelle mondiale. Les autres modèles Claude restent en ligne. Mais deux des modèles de langage les plus puissants de l'histoire ont disparu à cause d'une simple lettre privée du gouvernement – sans ordre du tribunal, sans document public, ni divulgation des résultats de l'enquête. Mercredi dernier, des utilisateurs de Reddit ont signalé que Fable 5 avait été ajouté au catalogue AWS Bedrock, et le cloud semblait avoir rétabli le service. Mais de toute façon, cet incident a créé des risques majeurs pour l'IA, l'innovation et le marché américain.
Le gouvernement américain a en réalité déclaré qu'il pouvait retirer arbitrairement des modèles commerciaux du marché par des actions administratives. Ce mécanisme est un contrôle des exportations, mais l'effet sur le marché est un rappel. Le gouvernement fédéral a franchi le Rubicon de l'IA, passant de l'établissement de règles à la possession d'un pouvoir discrétionnaire sur quels modèles entrent sur le marché public et quand. Établir un tel pouvoir ne se contracte généralement pas de lui-même : si le gouvernement ne change pas de cap, la prochaine directive pourrait être plus facile à émettre que celle-ci.
La seule experte externe ayant lu la recherche sous-jacente, Katie Moussouris (Luta Security), a décrit en termes simples la tentative de jailbreak présumée. Les chercheurs d'Amazon ont fourni aux modèles du code open source contenant des vulnérabilités connues et implantées, et leur ont demandé d'examiner les problèmes de sécurité. Les modèles ont refusé. Les chercheurs ont ensuite demandé aux modèles de corriger le code, et ils l'ont fait.
Moussouris a qualifié cette demande de prompt défensif, plutôt que de contournement, et a déclaré que c'était la chose la plus précieuse que l'IA puisse faire pour les équipes de sécurité. Selon elle, le modèle de défense cybernétique le plus puissant du marché a été abattu par trois mots : "corrigez ce code".
Le département du Commerce n'a pas publié la directive à Anthropic ni les raisons qui la sous-tendent. Rien n'a été publié sur le site du département, le registre fédéral ou ailleurs. La directive a été transmise sous forme de lettre privée du Bureau de l'industrie et de la sécurité du département, qui ne l'a pas non plus rendue publique. L'autorité sur laquelle s'appuie le département n'est pas non plus entièrement claire. Le Centre d'études stratégiques et internationales (CSIS) a suggéré que le département pourrait s'appuyer sur la loi sur la réforme du contrôle des exportations de 2018 (ECRA), utilisant une autorité dite "fondée sur des informations" pour informer en privé les entreprises qu'elles ont besoin d'une licence. Ces exigences sont appliquées par le biais du Règlement sur l'administration des exportations (EAR). Mais il n'existe pas de cadre réglementaire au sein de l'EAR pour soutenir ce pouvoir statutaire, il n'a donc jamais été utilisé comme base de contrôle, et le département n'a pas élaboré de réglementation pour mettre en œuvre ce pouvoir.
La norme suggérée par le gouvernement ne résiste pas à la réalité ci-dessus. Si le déploiement exige de garantir qu'il n'existe aucun moyen de provoquer des capacités dangereuses, alors cette norme est elle-même irréalisable. Les propres ingénieurs d'Anthropic ont déclaré que la certification négative est impossible, et leurs propres ingénieurs ne peuvent pas prouver quoi que ce soit pour personne. Selon la logique d'Anthropic, appliquer cette norme à toute l'industrie arrêterait complètement le déploiement des modèles d'IA de pointe. C'est un seuil impossible à franchir, pas un seuil de sécurité – ce n'est qu'un veto discrétionnaire en blouse blanche.
Supposons qu'Anthropic veuille satisfaire à la lettre de la directive – exclure les étrangers tout en servant les Américains – cela ne peut être réalisé qu'en effectuant une vérification complète de l'identité de chaque utilisateur. Anthropic pourrait mettre en place un processus complet d'enregistrement "Know Your Customer" (KYC), exigeant des documents de citoyenneté et de résidence, comme pour ouvrir un compte de courtage. Avec cela, Anthropic pourrait restreindre l'accès par nationalité (bien que ses propres employés puissent encore être verrouillés). Mais sans cela, il est impossible d'empêcher les "étrangers" de...
Selon les rapports, le gouvernement américain a effectivement des raisons de s'inquiéter. Un témoignage au Sénat rapporté fin juin (transmis par le sénateur Mark Warner (D-VA), attribué au directeur de la NSA Joshua Rudd) décrit que Mythos a pénétré en quelques heures presque tous les systèmes classifiés des agences de renseignement lors d'un exercice de red team autorisé (bien que le journaliste de The Economist ait légèrement réfuté ce rapport). Mythos est le premier modèle à avoir réussi le terrain d'essai de cybersécurité de l'Institut britannique de sécurité de l'IA. C'est une capacité sérieuse et un point de données important. Cela appelle à des processus sérieux, pas à une lettre un vendredi soir sans résultats d'enquête joints.
De plus, Mythos était censé être réservé à des partenaires vérifiés. Le modèle mis hors ligne était Fable (version grand public), dont les mesures de protection routaient les requêtes sensibles en matière de réseau et de biologie vers l'ancienne version Opus 4.8. Le rappel mondial d'un produit protégé, alors que la version vraiment dangereuse n'était pas publique, reflète un processus qui confond capacité et déploiement.
