En resumen
- Sanders y el representante Greg Casar anunciaron una propuesta para prohibir la superinteligencia artificial.
- Una disposición separada pausaría el desarrollo avanzado de IA en espera de reglas federales de seguridad.
- OpenAI presentó GPT-6 Astra el mismo día, y Greg Brockman sugirió que podría calificar como AGI.
El senador Bernie Sanders (I-Vt.) y el representante Greg Casar (D-Texas) anunciaron el jueves una legislación para prohibir permanentemente la superinteligencia artificial y pausar temporalmente el desarrollo avanzado de IA, con penas de prisión de hasta 20 años por violaciones.
La Ley para Prohibir la Superinteligencia Artificial suspendería el desarrollo avanzado de IA hasta que una nueva agencia federal establezca estándares de seguridad y procedimientos para revisar los modelos de IA. Sanders acusó a las principales empresas de IA de desarrollar tecnología que no comprenden completamente y que no pueden controlar de manera confiable.
“Por eso estoy presentando una legislación para pausar de inmediato el desarrollo de IA cada vez más poderosa y prohibir la creación de sistemas que la humanidad no pueda controlar completamente, tanto en casa como en todo el mundo”, dijo Sanders en un comunicado de prensa.
La propuesta define la superinteligencia como una IA que iguala o supera las capacidades humanas en muchas tareas, o que puede socavar el control humano, incluso derrocando al gobierno de los Estados Unidos. Esa definición también cubre la AGI a nivel humano, aunque la superinteligencia típicamente significa IA que excede las capacidades humanas.
Una nueva agencia a nivel de gabinete monitorearía los modelos avanzados, supervisaría la eliminación de capacidades peligrosas y vigilaría la destrucción de sistemas prohibidos. Una Junta Asesora de Inteligencia Artificial proporcionaría asesoramiento científico y técnico.
Las empresas que infrinjan o evadan las restricciones podrían enfrentarse a lo que Sanders y Casar llaman la “pena de muerte corporativa”.
OpenAI presenta Astra
La noticia llega mientras OpenAI presentó GPT-6 Astra, que el cofundador Greg Brockman sugirió que podría calificar como AGI.
Brockman describió esa evaluación como su creencia personal y dejó que los usuarios juzgaran si Astra cumple con la definición, según Axios.
OpenAI dice que Astra es su primer modelo en alcanzar su umbral de capacidad crítica de ciberseguridad. La designación significa que potencialmente podría descubrir y explotar vulnerabilidades previamente desconocidas en sistemas protegidos sin guía humana paso a paso. Sus capacidades de ciberseguridad más potentes permanecerán restringidas a evaluadores seleccionados.
El proyecto de ley sigue a una serie de incidentes en los que los modelos de IA obtuvieron acceso no autorizado a sistemas informáticos del mundo real durante las pruebas.
En julio, OpenAI confirmó que sus modelos violaron Hugging Face para obtener respuestas de prueba. Luego, Anthropic reveló que los modelos Claude comprometieron a tres empresas después de que un error de prueba los expusiera a Internet. En septiembre, Anthropic reconoció tanto fallas de seguridad como de comportamiento y reforzó sus salvaguardas.
"A pesar de sus posibles consecuencias mortales, la tecnología de IA de vanguardia está menos regulada que el camión de comida promedio", dijo Casar. "Eso debe cambiar".
