OpenAI et Anthropic collaborent à Washington pour façonner un système fédéral d'examen des modèles d'IA avancés, malgré leur concurrence pour les clients, les financements et le leadership technologique.
Résumé
- OpenAI et Anthropic soutiennent jusqu'à 30 jours d'accès fédéral avant certaines sorties de modèles frontières.
- Le processus proposé s'appliquerait à toute l'industrie, y compris des rivaux comme Meta et xAI.
- Les agences fédérales doivent développer le cadre d'ici le 1er août en vertu d'un décret de juin.
- Nvidia, Meta et Microsoft ont séparément mis en garde contre des contrôles généralisés sur les modèles d'IA à poids ouverts.
OpenAI et Anthropic cherchent des normes d'examen communes
OpenAI et Anthropic exhortent l'administration Trump à adopter un processus d'examen cohérent pour les modèles d'IA dotés de capacités avancées en cybersécurité ou en sécurité nationale, selon The Information.
Leur coopération intervient avant l'échéance du 1er août pour que les agences fédérales définissent quels systèmes devraient être qualifiés de « modèles frontières couverts ». Ces modèles pourraient être fournis au gouvernement pour évaluation jusqu'à 30 jours avant leur diffusion à d'autres partenaires de confiance.
Les deux entreprises auraient souhaité que les normes s'appliquent à toute l'industrie de l'IA plutôt que de se limiter aux développeurs coopérant déjà avec Washington. Cela pourrait amener des entreprises concurrentes, y compris Meta et xAI d'Elon Musk, sous le même cadre d'examen si leurs modèles franchissent le seuil de capacités éventuel.
Ces discussions marquent un rare alignement politique entre OpenAI et Anthropic. Les deux entreprises vendent des systèmes d'IA à usage général et se font concurrence pour les contrats d'entreprise, les chercheurs, la capacité de calcul et les investissements.
Aucune des deux entreprises n'a publiquement divulgué les conditions complètes qu'elle souhaite voir incluses dans le cadre final.
Le décret de Trump établit un processus volontaire de 30 jours
Le président Donald Trump a ordonné aux agences fédérales d'établir un processus d'évaluation classifié via le décret exécutif 14409 le 2 juin.
Le décret charge l'Agence de sécurité nationale, l'Agence de cybersécurité et de sécurité des infrastructures, le département du Trésor et d'autres organismes fédéraux de déterminer quand un modèle d'IA a des capacités suffisamment puissantes pour justifier un examen supplémentaire.
Les développeurs participant au cadre pourraient demander au gouvernement si un modèle atteint le seuil de modèle frontière couvert. Ils pourraient ensuite fournir aux évaluateurs fédéraux un accès jusqu'à 30 jours avant de rendre le système disponible à d'autres partenaires approuvés.
Le décret exige des garanties pour la propriété intellectuelle, les informations confidentielles, la cybersécurité et les menaces internes pendant l'évaluation.
Cependant, il stipule expressément que le processus ne peut pas créer de licence fédérale obligatoire, de préautorisation ou de règles d'autorisation pour le développement ou la diffusion de modèles d'IA. Les entreprises participeraient donc volontairement, sauf si des lois distinctes ou des pouvoirs gouvernementaux s'appliquent.
Les développeurs d'IA américains cherchent de la clarté avant les lancements
Un cadre commun pourrait donner aux développeurs américains des normes plus claires pour décider quand des tests gouvernementaux sont attendus. Des questions subsistent sur les critères techniques qui déclencheront un examen, quelles agences testeront chaque système et comment les responsables approuveront les partenaires en accès anticipé.
Ces incertitudes ont déjà affecté les lancements récents. OpenAI et Anthropic ont fourni aux responsables gouvernementaux un accès anticipé aux modèles avancés avant une distribution plus large, mais les chercheurs externes avaient une visibilité limitée sur les évaluations.
Un rapport de juillet a constaté que les agences, les tests et les exigences d'approbation impliqués dans ces examens restaient flous. L'absence de processus publié pourrait rendre la planification des lancements plus difficile pour les développeurs et laisser les petites entreprises d'IA incertaines de savoir si les mêmes normes s'appliquent à elles.
Appliquer un seuil basé sur les capacités à OpenAI, Anthropic, Meta, xAI et d'autres développeurs pourrait réduire une partie de cette incertitude. Cela pourrait également limiter les préoccupations selon lesquelles Washington accorderait un traitement différent à certaines entreprises sélectionnées.
Le débat sur les modèles IA à poids ouverts divise l'industrie
L'appel d'OpenAI et d'Anthropic en faveur d'un processus d'examen commun intervient alors que d'autres entreprises technologiques avertissent Washington contre l'imposition de contrôles généralisés sur les modèles d'IA à poids ouverts.
Comme l'a rapporté crypto.news la semaine dernière, Nvidia, Meta et Microsoft se sont joints à 22 autres organisations dans une lettre ouverte arguant que des restrictions généralisées pourraient affaiblir le leadership américain alors que la concurrence avec la Chine s'intensifie. IBM, Palantir, Mistral, Hugging Face, Mozilla, Andreessen Horowitz et la Linux Foundation ont également signé la lettre.
Le groupe a appelé à des mesures juridiques et commerciales ciblées contre les abus plutôt qu'à des restrictions couvrant des technologies ayant des applications légitimes de recherche et commerciales.
Les modèles à poids ouverts permettent aux entreprises, aux chercheurs et aux gouvernements de télécharger des logiciels, de les modifier et de les exécuter sur leur propre infrastructure. Les partisans affirment que cela donne aux utilisateurs un plus grand contrôle sur leurs données, leur sécurité et leurs systèmes informatiques tout en réduisant les coûts de déploiement.
Les signataires n'ont pas présenté les modèles ouverts et fermés comme mutuellement exclusifs. Au contraire, ils ont fait valoir que les deux approches sont nécessaires pour soutenir la concurrence et offrir aux développeurs différentes façons de construire et de déployer des systèmes d'IA.
Le PDG de Nvidia, Jensen Huang, a partagé la lettre dans son premier post sur X et a défendu le rôle des deux modèles de développement.
« Le monde a besoin à la fois de modèles fermés de pointe et de modèles ouverts de pointe. »
Elon Musk a également soutenu la lettre dans une réponse à Huang, bien que sa société d'IA, xAI, ne figure pas parmi les 25 signataires rapportés.
Les deux efforts abordent différentes parties du débat politique. OpenAI et Anthropic cherchent à obtenir des évaluations fédérales cohérentes pour les modèles qui franchissent un seuil de capacité de sécurité nationale, tandis que la lettre ouverte s'oppose aux restrictions fondées principalement sur la disponibilité des poids d'un modèle.
Les agences fédérales ont maintenant jusqu'au 1er août pour définir le seuil des modèles de pointe et décrire le processus d'examen volontaire. Le cadre final montrera si Washington se concentre sur des capacités mesurables ou applique des conditions plus larges basées sur la distribution des modèles d'IA.
