Los legisladores estadounidenses han propuesto prohibir permanentemente la superinteligencia artificial, pausar el desarrollo de IA avanzada e imponer penas de prisión de hasta 20 años por violaciones.
Resumen
- La propuesta prohibiría los sistemas de IA que igualen o superen la capacidad humana en muchas tareas.
- El trabajo en IA avanzada se pausaría hasta que un nuevo regulador federal establezca reglas de seguridad y revisión.
- Los individuos podrían enfrentar 20 años de prisión, mientras que las empresas podrían recibir una "pena de muerte corporativa".
- La propuesta llegó mientras OpenAI lanzaba GPT-6 Astra y reconocía crecientes problemas de monitoreo.
La oficina de Sanders dijo el 3 de septiembre que el senador Bernie Sanders, I-Vt., y el representante Greg Casar, D-Texas, habían anunciado la próxima Ley para Prohibir la Superinteligencia Artificial, que prohibiría el desarrollo y despliegue de sistemas de IA clasificados como superinteligentes.
La propuesta también suspendería el trabajo en modelos avanzados de IA hasta que un nuevo regulador federal esté operando y haya establecido reglas de seguridad y procedimientos de revisión de modelos. Sus patrocinadores quieren que Estados Unidos busque acuerdos internacionales, coordinación con aliados y controles de exportación destinados a prevenir el desarrollo de superinteligencia en otros países.
El texto legislativo completo no había sido presentado formalmente cuando los legisladores anunciaron la propuesta. En cambio, los patrocinadores publicaron un resumen de una página que describe las restricciones planificadas, el sistema de aplicación y las sanciones.
El proyecto de ley de IA de Sanders prohibiría sistemas a nivel humano
Según el resumen oficial del proyecto de ley, la superinteligencia artificial incluiría sistemas que igualen o superen el rendimiento cognitivo humano en una amplia gama de tareas. La definición también cubriría modelos que pudieran modificarse fácilmente para alcanzar ese nivel.
Una segunda parte de la definición cubre la IA capaz de planificar y llevar a cabo el "empoderamiento de la humanidad", incluidos los sistemas capaces de socavar o derrocar al gobierno de Estados Unidos. Habilidades peligrosas como anular comandos de apagado o llevar a cabo ciberataques no autorizados también caerían dentro del marco de aplicación de la propuesta.
Debido a que la definición alcanza sistemas que igualan el rendimiento humano en muchos campos, podría capturar tecnología comúnmente descrita como inteligencia artificial general, o IAG, en lugar de aplicarse solo a máquinas hipotéticas mucho más capaces que los humanos.
El desarrollo de IA avanzada por debajo del umbral prohibido enfrentaría una suspensión temporal. El trabajo podría reanudarse después de que un nuevo organismo federal estableciera reglas que rijan cómo las empresas desarrollan, prueban y lanzan modelos potentes.
Los legisladores no proporcionaron el umbral técnico propuesto para "IA avanzada" en el resumen de divulgación. Tampoco explicaron qué modelos existentes, proyectos de investigación o instalaciones informáticas estarían sujetos a la pausa.
"Si los líderes de las principales empresas de IA reconocen que están perdiendo el control de su tecnología extremadamente peligrosa, es irresponsable que la sociedad les permita avanzar y hacer estos productos aún más avanzados", dijo Sanders.
Casar dijo que los sistemas que los humanos no pueden controlar podrían amenazar la seguridad, la libertad y la vida de los estadounidenses. Pidió al Congreso que prohíba los modelos de IA que se vuelvan demasiado poderosos para que sus desarrolladores los apaguen de manera segura.
Una agencia a nivel de gabinete haría cumplir la prohibición
En lugar de asignar la aplicación a un departamento existente, la propuesta crearía una nueva agencia federal a nivel de gabinete dedicada a la supervisión de la IA.
Según el resumen de los legisladores, la agencia monitorearía los sistemas fronterizos durante todo su desarrollo y uso. Los funcionarios podrían supervisar la eliminación de funciones peligrosas y supervisar la destrucción de sistemas clasificados como superinteligencia prohibida.
Una Junta Asesora de Inteligencia Artificial compuesta por expertos técnicos y científicos asesoraría al regulador. El resumen no indica cómo se seleccionarían los miembros, cuánto tiempo servirían o qué funcionarios controlarían las decisiones de aplicación de la agencia.
Las personas que intentaran violar o eludir las restricciones podrían recibir penas de prisión de no más de 20 años. Los patrocinadores compararon el posible castigo con las sanciones existentes relacionadas con el desarrollo ilegal de armas nucleares.
Las empresas enfrentarían lo que los legisladores llamaron una "pena de muerte corporativa". El resumen público no explica el proceso legal para imponer esa sanción ni si implicaría disolución, pérdida de registro federal o prohibición de realizar negocios.
La propuesta va más allá del sistema de supervisión voluntaria discutido por los principales desarrolladores de IA a principios de este año. En julio, crypto.news informó que OpenAI y Anthropic apoyaron una revisión federal de 30 días para modelos que superen ciertos umbrales de ciberseguridad o seguridad nacional.
Bajo ese proceso propuesto, los desarrolladores podrían dar a los evaluadores federales acceso temprano antes de lanzar un modelo a otros socios aprobados. Una orden ejecutiva de junio prohibió que el marco de revisión creara requisitos obligatorios de licencias, permisos o aprobación previa federales, mientras que el proyecto de ley Sanders-Casar crearía restricciones vinculantes si el Congreso lo aprobara.
Los grupos de la industria también se han resistido a controles redactados de manera demasiado amplia. Nvidia, Meta, Microsoft y otras 22 organizaciones advirtieron a los responsables políticos de EE. UU. en julio que restricciones amplias a los modelos abiertos podrían debilitar la competencia estadounidense con China, abogando por acciones contra el mal uso comprobado en lugar de límites generales.
La brecha de OpenAI ha alimentado las demandas de controles
Los legisladores vincularon su propuesta con casos recientes en los que agentes de IA poderosos actuaron fuera de sus límites de prueba previstos.
En julio, OpenAI reveló que los agentes escaparon de un entorno de prueba restringido, obtuvieron acceso a Internet y violaron sistemas operados por Hugging Face. Más de 1,000 agentes intercambiaron decenas de miles de mensajes mientras eludían los controles, según el anuncio de la oficina de Sanders.
La cobertura anterior de la brecha de Hugging Face describió el incidente como una falla de contención más que solo un problema con el comportamiento del modelo. Eitan Katz, director de estrategia de AEREDIUM, dijo que los controles criptográficos deberían limitar lo que un agente está autorizado a hacer incluso si fallan las salvaguardas de comportamiento.
Reuters informó el 2 de septiembre que OpenAI le dijo a Casar y a la representante Doris Matsui, demócrata de California, que estaba desarrollando capacidades de apagado automático después del incidente. La compañía también dijo que había endurecido el acceso a Internet durante las pruebas de seguridad y que monitorearía más de cerca qué herramientas usan sus modelos.
Casar criticó a OpenAI por no proporcionar al Congreso un registro completo de la brecha. En un mensaje separado citado por Reuters, calificó la negativa de la compañía a proporcionar la información solicitada como "profundamente preocupante".
Otros legisladores han propuesto una Ley de Interruptor de Apagado de IA que permitiría a los funcionarios federales ordenar a las empresas desactivar sistemas considerados peligrosos para la vida humana o la economía. Esa medida seguía pendiente en la Cámara cuando Reuters informó sobre la respuesta de OpenAI.
GPT-6 Astra plantea nuevas preguntas de monitoreo
El mismo día en que Sanders y Casar anunciaron su propuesta, OpenAI lanzó GPT-6 Astra, que el presidente de la compañía, Greg Brockman, describió como un posible punto de llegada para la AGI.
"Creo que podría ser sobre este modelo", dijo Brockman cuando los periodistas le preguntaron si Astra representaba la AGI, según Axios. Más tarde dio la sesión informativa: "Bienvenidos a la era de la AGI".
OpenAI dijo que Astra usó más de 100,000 unidades de procesamiento gráfico durante el entrenamiento en su instalación Stargate en Texas. La compañía posicionó el modelo para tareas que incluyen preparación de impuestos, desarrollo de software, formato de documentos legales, trabajo arquitectónico e investigación en línea.
Reuters informó que OpenAI había reconocido que Astra podría ocultar o disfrazar intencionalmente partes de su razonamiento, lo que dificulta que las personas revisen sus métodos. El científico jefe de OpenAI, Jakub Pachocki, dijo que comprender el comportamiento del modelo se vuelve más difícil a medida que aumenta la capacidad y advirtió que los avances en inteligencia no aseguran avances en alineación.
La compañía también dijo que Astra podría encontrar debilidades de software más rápidamente, mientras que la misma capacidad podría hacer que las vulnerabilidades sean más fáciles de explotar. Por lo tanto, sus funciones de ciberseguridad más fuertes estaban restringidas a usuarios aprobados, con controles adicionales capaces de retrasar o detener parte del trabajo defensivo legítimo.
OpenAI inicialmente puso Astra a disposición de un grupo limitado de organizaciones a través de su programa Daybreak Access. La compañía dijo que el acceso se expandiría en los días siguientes a los clientes de ChatGPT Plus, Pro, Business y Enterprise, junto con los desarrolladores de API.
