En bref
- Sanders et le représentant Greg Casar ont annoncé une proposition d'interdiction de la superintelligence artificielle.
- Une disposition distincte suspendrait le développement avancé de l'IA en attendant des règles de sécurité fédérales.
- OpenAI a dévoilé GPT-6 Astra le même jour, Greg Brockman suggérant qu'il pourrait être qualifié d'AGI.
Le sénateur Bernie Sanders (I-Vt.) et le représentant Greg Casar (D-Texas) ont annoncé une législation jeudi pour interdire définitivement la superintelligence artificielle et suspendre temporairement le développement avancé de l'IA, avec des peines de prison pouvant aller jusqu'à 20 ans en cas de violation.
La loi sur l'interdiction de la superintelligence artificielle suspendrait le développement avancé de l'IA jusqu'à ce qu'une nouvelle agence fédérale établisse des normes de sécurité et des procédures d'examen des modèles d'IA. Sanders a accusé les grandes entreprises d'IA de développer une technologie qu'elles ne comprennent pas entièrement et ne peuvent pas contrôler de manière fiable.
« C'est pourquoi je présente une législation pour suspendre immédiatement le développement d'une IA de plus en plus puissante et interdire la création de systèmes que l'humanité ne peut pas entièrement contrôler – chez nous et dans le monde entier », a déclaré Sanders dans un communiqué de presse.
La proposition définit la superintelligence comme une IA qui égale ou dépasse les capacités humaines dans de nombreuses tâches, ou qui peut saper le contrôle humain, y compris en renversant le gouvernement américain. Cette définition couvre également l'AGI de niveau humain, bien que la superintelligence signifie généralement une IA qui dépasse les capacités humaines.
Une nouvelle agence au niveau du cabinet surveillerait les modèles avancés, superviserait la suppression des capacités dangereuses et superviserait la destruction des systèmes interdits. Un comité consultatif sur l'intelligence artificielle fournirait des conseils scientifiques et techniques.
Les entreprises qui enfreignent ou contournent les restrictions pourraient faire face à ce que Sanders et Casar appellent la « peine de mort pour les entreprises ».
OpenAI dévoile Astra
La nouvelle intervient alors qu'OpenAI a dévoilé GPT-6 Astra, que le cofondateur Greg Brockman a suggéré pourrait être qualifié d'AGI.
Brockman a décrit cette évaluation comme sa conviction personnelle et a laissé aux utilisateurs le soin de juger si Astra répond à la définition, selon Axios.
OpenAI affirme qu'Astra est son premier modèle à atteindre son seuil « critique » de capacités en cybersécurité. Cette désignation signifie qu'il pourrait potentiellement découvrir et exploiter des vulnérabilités jusqu'alors inconnues dans des systèmes protégés sans guidage humain étape par étape. Ses capacités de cybersécurité les plus puissantes resteront limitées à des testeurs sélectionnés.
Le projet de loi fait suite à une série d'incidents au cours desquels des modèles d'IA ont obtenu un accès non autorisé à des systèmes informatiques réels lors de tests.
En juillet, OpenAI a confirmé que ses modèles ont infiltré Hugging Face pour obtenir des réponses de test. Anthropic a ensuite révélé que les modèles Claude ont compromis trois entreprises après qu'une erreur de test les a exposés à Internet. En septembre, Anthropic a reconnu à la fois des défaillances de sécurité et de comportement et a renforcé ses mesures de protection.
« Malgré ses conséquences potentiellement mortelles, la technologie de pointe en matière d'IA est moins réglementée que le camion de nourriture moyen », a déclaré Casar. « Cela doit changer. »
