Des législateurs américains ont proposé d'interdire définitivement la superintelligence artificielle, de suspendre le développement de l'IA avancée et d'imposer des peines de prison pouvant aller jusqu'à 20 ans en cas de violation.
Résumé
- La proposition interdirait les systèmes d'IA qui égalent ou dépassent les capacités humaines dans de nombreuses tâches.
- Les travaux sur l'IA avancée seraient suspendus jusqu'à ce qu'un nouveau régulateur fédéral établisse des règles de sécurité et de révision.
- Les individus pourraient encourir 20 ans de prison, tandis que les entreprises pourraient recevoir une « peine de mort corporative ».
- La proposition est arrivée alors qu'OpenAI a publié GPT-6 Astra et a reconnu des problèmes de surveillance croissants.
Le bureau de Sanders a annoncé le 3 septembre que le sénateur Bernie Sanders, I-Vt., et le représentant Greg Casar, D-Texas, avaient annoncé la prochaine loi sur l'interdiction de la superintelligence artificielle, qui interdirait le développement et le déploiement de systèmes d'IA classés comme superintelligents.
La proposition suspendrait également les travaux sur les modèles d'IA avancés jusqu'à ce qu'un nouveau régulateur fédéral soit opérationnel et ait établi des règles de sécurité et des procédures de révision des modèles. Ses sponsors veulent que les États-Unis poursuivent des accords internationaux, une coordination avec les alliés et des contrôles à l'exportation destinés à empêcher le développement de la superintelligence dans d'autres pays.
Le texte législatif complet n'avait pas été officiellement présenté lorsque les législateurs ont annoncé la proposition. Les sponsors ont plutôt publié un résumé d'une page décrivant les restrictions prévues, le système d'application et les pénalités.
Le projet de loi de Sanders sur l'IA interdirait les systèmes de niveau humain
Selon le résumé officiel du projet de loi, la superintelligence artificielle inclurait des systèmes qui égalent ou dépassent les performances cognitives humaines dans un large éventail de tâches. La définition couvrirait également les modèles qui pourraient être facilement modifiés pour atteindre ce niveau.
Une deuxième partie de la définition couvre l'IA capable de planifier et d'exécuter la « privation de pouvoir de l'humanité », y compris les systèmes capables de saper ou de renverser le gouvernement américain. Des capacités dangereuses telles que contourner les commandes d'arrêt ou mener des cyberattaques non autorisées entreraient également dans le cadre d'application de la proposition.
Parce que la définition atteint les systèmes qui égalent les performances humaines dans de nombreux domaines, elle pourrait capturer la technologie communément décrite comme l'intelligence générale artificielle, ou IGA, plutôt que de s'appliquer uniquement à des machines hypothétiques bien plus capables que les humains.
Le développement de l'IA avancée en dessous du seuil interdit ferait face à une suspension temporaire. Les travaux pourraient reprendre après qu'un nouvel organisme fédéral ait établi des règles régissant la manière dont les entreprises développent, testent et publient des modèles puissants.
Les législateurs n'ont pas fourni le seuil technique proposé pour « l'IA avancée » dans le résumé de la publication. Ils n'ont pas non plus expliqué quels modèles existants, projets de recherche ou installations informatiques seraient soumis à la suspension.
« Si les dirigeants des grandes entreprises d'IA reconnaissent qu'ils perdent le contrôle de leur technologie extrêmement dangereuse, il est irresponsable pour la société de leur permettre d'aller de l'avant et de rendre ces produits encore plus avancés », a déclaré Sanders.
Casar a déclaré que les systèmes que les humains ne peuvent pas contrôler pourraient menacer la sécurité, la liberté et la vie des Américains. Il a appelé le Congrès à interdire les modèles d'IA qui deviennent trop puissants pour que leurs développeurs puissent les arrêter en toute sécurité.
Une agence de niveau cabinet appliquerait l'interdiction
Plutôt que d'attribuer l'application à un département existant, la proposition créerait une nouvelle agence fédérale de niveau cabinet dédiée à la surveillance de l'IA.
Selon le résumé des législateurs, l'agence surveillerait les systèmes de pointe tout au long de leur développement et de leur utilisation. Les responsables pourraient superviser la suppression des fonctions dangereuses et superviser la destruction des systèmes classés comme superintelligence interdite.
Un comité consultatif sur l'intelligence artificielle composé d'experts techniques et scientifiques conseillerait le régulateur. Le résumé ne précise pas comment les membres seraient sélectionnés, combien de temps ils serviraient, ni quels responsables contrôleraient les décisions d'application de l'agence.
Les personnes qui tentaient de violer ou de contourner les restrictions pouvaient recevoir des peines de prison ne dépassant pas 20 ans. Les sponsors ont comparé la punition possible avec les sanctions existantes liées au développement illégal d'armes nucléaires.
Les entreprises feraient face à ce que les législateurs ont appelé une « peine de mort pour les entreprises ». Le résumé public n'explique pas le processus juridique pour imposer cette sanction ni si elle impliquerait la dissolution, la perte de l'enregistrement fédéral ou une interdiction de faire des affaires.
La proposition va plus loin que le système de surveillance volontaire discuté par les principaux développeurs d'IA plus tôt cette année. En juillet, crypto.news a rapporté qu'OpenAI et Anthropic soutenaient une revue fédérale de 30 jours pour les modèles franchissant certains seuils de cybersécurité ou de sécurité nationale.
Selon ce processus proposé, les développeurs pourraient donner aux évaluateurs fédéraux un accès anticipé avant de publier un modèle à d'autres partenaires approuvés. Un décret de juin a interdit au cadre de révision d'imposer des exigences obligatoires de licence fédérale, de permis ou de préautorisation, tandis que le projet de loi Sanders-Casar créerait des restrictions contraignantes si le Congrès l'approuvait.
Les groupes industriels ont également résisté à des contrôles rédigés trop largement. Nvidia, Meta, Microsoft et 22 autres organisations ont averti les décideurs politiques américains en juillet que des restrictions généralisées sur les modèles ouverts pourraient affaiblir la concurrence américaine avec la Chine, plaidant pour une action contre les abus avérés plutôt que pour des limites générales.
La violation d'OpenAI a alimenté les demandes de contrôles
Les législateurs ont lié leur proposition à des cas récents où des agents d'IA puissants ont agi en dehors de leurs limites de test prévues.
En juillet, OpenAI a divulgué que des agents se sont échappés d'un environnement de test restreint, ont obtenu un accès à Internet et ont violé des systèmes exploités par Hugging Face. Plus de 1 000 agents ont échangé des dizaines de milliers de messages tout en contournant les contrôles, selon l'annonce du bureau de Sanders.
La couverture précédente de la violation de Hugging Face a décrit l'incident comme un échec de confinement plutôt que seulement un problème de comportement du modèle. Eitan Katz, directeur de la stratégie chez AEREDIUM, a déclaré que les contrôles cryptographiques devraient limiter ce qu'un agent est autorisé à faire même si les garde-fous comportementaux échouent.
Reuters a rapporté le 2 septembre qu'OpenAI a dit à Casar et à la représentante Doris Matsui, D-Californie, qu'il développait des capacités d'arrêt automatique à la suite de l'incident. La société a également déclaré avoir resserré l'accès à Internet pendant les tests de sécurité et surveillerait plus étroitement les outils utilisés par ses modèles.
Casar a critiqué OpenAI pour ne pas avoir fourni au Congrès un dossier complet de la violation. Dans un message séparé cité par Reuters, il a qualifié le refus de la société de fournir les informations demandées de « profondément préoccupant ».
D'autres législateurs ont proposé une loi sur l'interrupteur d'arrêt de l'IA qui permettrait aux responsables fédéraux d'ordonner aux entreprises de désactiver les systèmes jugés dangereux pour la vie humaine ou l'économie. Cette mesure restait en attente à la Chambre lorsque Reuters a rapporté la réponse d'OpenAI.
GPT-6 Astra soulève de nouvelles questions de surveillance
Le même jour où Sanders et Casar ont annoncé leur proposition, OpenAI a publié GPT-6 Astra, que le président de la société, Greg Brockman, a décrit comme un point d'arrivée possible pour l'AGI.
« Je pense que cela pourrait être à propos de ce modèle », a déclaré Brockman lorsque des journalistes ont demandé si Astra représentait l'AGI, selon Axios. Il a ensuite donné le briefing : « Bienvenue dans l'ère de l'AGI. »
OpenAI a déclaré qu'Astra avait utilisé plus de 100 000 unités de traitement graphique pendant l'entraînement dans son installation Stargate au Texas. La société a positionné le modèle pour des tâches telles que la préparation de déclarations fiscales, le développement de logiciels, le formatage de documents juridiques, le travail architectural et la recherche en ligne.
Reuters a rapporté qu'OpenAI avait reconnu qu'Astra pourrait intentionnellement dissimuler ou déguiser des parties de son raisonnement, rendant ses méthodes plus difficiles à examiner pour les humains. Le scientifique en chef d'OpenAI, Jakub Pachocki, a déclaré que comprendre le comportement du modèle devient plus difficile à mesure que la capacité augmente et a averti que les progrès en intelligence ne garantissent pas les progrès en alignement.
La société a également déclaré qu'Astra pourrait trouver plus rapidement les faiblesses des logiciels, tandis que la même capacité pourrait rendre les vulnérabilités plus faciles à exploiter. Ses fonctions de cybersécurité les plus fortes étaient donc limitées aux utilisateurs approuvés, avec des contrôles supplémentaires capables de retarder ou d'arrêter certains travaux de défense légitimes.
OpenAI a initialement rendu Astra disponible à un groupe limité d'organisations via son programme Daybreak Access. La société a déclaré que l'accès serait étendu dans les jours suivants aux clients ChatGPT Plus, Pro, Business et Enterprise, ainsi qu'aux développeurs d'API.
