En bref
- OpenAI a demandé aux législateurs si des développeurs d'IA rivaux pouvaient légalement coordonner un ralentissement, selon WIRED.
- Les experts affirment que les pressions financières et concurrentielles dissuadent les entreprises de ralentir le développement de manière indépendante.
- Un projet de loi au Congrès protégerait certains accords visant à restreindre le développement de l'IA pour répondre aux risques de sécurité.
OpenAI a demandé aux membres du Congrès si des entreprises d'IA rivales pouvaient légalement convenir de ralentir le développement, alors que son scientifique en chef exhorte l'industrie à établir des normes de sécurité communes.
Selon WIRED, qui cite des personnes proches de l'entreprise, OpenAI a demandé ces dernières semaines aux législateurs si un accord entre entreprises d'IA visant à ralentir le développement pourrait violer les lois antitrust.
Cette démarche auprès des législateurs fait suite à l'appel du scientifique en chef d'OpenAI, Jakub Pachocki, à des ralentissements volontaires jusqu'à ce que les développeurs puissent mieux démontrer que leurs systèmes sont sûrs. Mais les entreprises subissent des pressions pour continuer à progresser même lorsque leurs propres chercheurs ont des inquiétudes.
« La concurrence commerciale et géopolitique dans le domaine de l'IA est incroyablement intense, ce qui conduit à une dynamique préoccupante où les entreprises sont incitées à commercialiser des produits avant que leurs risques ne soient pleinement compris », a déclaré Miranda Bogen, technologue en chef du Center for Democracy and Technology, à Decrypt.
« Même lorsque le personnel interne sait que davantage de recherches et de tests sont nécessaires, leurs entreprises subissent une pression immense pour couper les coins ronds et sauter des tests de sécurité critiques, malgré les preuves qui s'accumulent sur les conséquences d'aller trop vite », a-t-elle ajouté.
Un accord visant à ralentir le développement de l'IA pourrait soulever des préoccupations antitrust en restreignant la concurrence. Les sénateurs Adam Schiff et Jim Banks ont présenté une législation visant à protéger certaines collaborations de sécurité, sous réserve d'un préavis au ministère de la Justice.
Le débat sur le ralentissement du développement de l'IA intervient alors que les États-Unis et la Chine rivalisent pour la leadership dans cette technologie. Le président américain Donald Trump a retardé un décret sur l'IA en mai en raison de craintes qu'il ne affaiblisse l'avance de l'Amérique sur la Chine. Trump a ensuite signé le décret en juin, créant un processus d'examen volontaire pour les modèles avancés avant leur publication.
Plus directs que les préoccupations de sécurité nationale, les incitations financières pourraient rendre un accord difficile.
« Chaque avancée dans les conditions actuelles rapporte plusieurs millions ou milliards de dollars de financement supplémentaires et place les créateurs de cette avancée dans une position de pouvoir et d'influence accrues », a déclaré Duncan Sabien, responsable de la communication au Machine Intelligence Research Institute, à Decrypt.
Qualifiant la dynamique de course aux armements de réelle, Sabien a déclaré qu'OpenAI et Anthropic subissent des pressions pour continuer à progresser malgré des risques incertains, car chaque nouveau système aide à construire des successeurs plus capables, permettant à un rival de prendre l'avantage si l'une ou l'autre entreprise ralentit sans accord partagé.
« Cela est particulièrement vrai puisque les gains d'intelligence se cumulent ; chaque nouveau système facilite l'entraînement et le déploiement du système suivant, plus avancé », a-t-il déclaré. « Sans une sorte de mécanisme de coordination, reculer signifie simplement que l'autre prend de l'avance.
En août, OpenAI a suspendu les travaux internes sur Astra, qui manquaient de garanties plus solides, en raison de préoccupations liées à la cybersécurité. Cependant, OpenAI et Anthropic ont assoupli leurs engagements en matière de sécurité en février, le directeur scientifique d'Anthropic, Jared Kaplan, soutenant qu'il était moins logique de ralentir le développement de manière indépendante alors que les concurrents continuaient de progresser.
Le débat sur le ralentissement du développement de l'IA a refait surface cette semaine après que l'ancien ingénieur d'Anthropic, Jacob Coxon, a annoncé publiquement sa démission, citant des préoccupations concernant les risques que le développement continu de l'IA pose à l'humanité.
« Les personnes qui développent l'IA croient sincèrement qu'elle pourrait nous tuer tous d'ici la fin de la décennie », a déclaré Coxon sur X, affirmant qu'il ne s'agissait pas d'un « coup marketing ».
« Si tant est que quelque chose se produise, de nombreux dirigeants et chercheurs seniors formuleront leurs propos dans la presse de manière à paraître raisonnables, mais j'entends ces mêmes personnes exprimer leur peur en privé. Aucune autre activité humaine ne présente ce niveau de danger », a-t-il écrit.
Cependant, Sabien a déclaré que les chercheurs pourraient accomplir peu de choses en partant si quelqu'un d'autre prend simplement leur place.
« Si un nombre suffisant d'entre eux parvient à la connaissance commune qu'ils devraient tous arrêter, alors ils peuvent franchir la barrière de la coordination et arrêter ensemble plutôt que d'être simplement remplacés par la personne suivante, légèrement moins prudente », a-t-il déclaré.
