OpenAI pregunta al Congreso si frenar la IA sería legal

OpenAI ha preguntado a miembros del Congreso si las empresas rivales de IA podrían acordar legalmente ralentizar el desarrollo, mientras su científico jefe insta a la industria a establecer estándares de seguridad compartidos.

SegúnWIRED, que citó a personas cercanas a la empresa, OpenAI preguntó a los legisladores en semanas recientes si un acuerdo entre empresas de IA para ralentizar el desarrollo podría violar las leyes antimonopolio.

El acercamiento a los legisladores sigue al llamado del científico jefe de OpenAI, Jakub Pachocki, a ralentizaciones voluntarias hasta que los desarrolladores puedan demostrar mejor que sus sistemas son seguros. Pero las empresas enfrentan presión para seguir avanzando incluso cuando sus propios investigadores tienen preocupaciones.

“La competencia comercial y geopolítica en el espacio de la IA es increíblemente intensa, lo que lleva a una dinámica preocupante en la que las empresas se ven incentivadas a lanzar productos antes de que sus riesgos se comprendan por completo”, dijo Miranda Bogen, tecnóloga jefa del Center for Democracy and Technology, a Decrypt.

“Incluso cuando el personal interno sabe que se necesita más investigación y pruebas, sus empresas enfrentan una presión inmensa para recortar gastos y omitir pruebas de seguridad críticas, a pesar de que se acumulan evidencias sobre las consecuencias de avanzar demasiado rápido”, añadió.

Un acuerdo para frenar el desarrollo de la IA podría generar preocupaciones antimonopolio al restringir la competencia. Los senadores Adam Schiff y Jim Banks presentaron una legislación para proteger ciertas colaboraciones de seguridad, sujetas a notificación previa al Departamento de Justicia.

El debate sobre frenar el desarrollo de la IA surge mientras Estados Unidos y China compiten por el liderazgo en la tecnología. El presidente de Estados Unidos, Donald Trump, retrasó una orden ejecutiva sobre IA en mayo debido a preocupaciones de que pudiera debilitar la ventaja de Estados Unidos sobre China. Trump luego firmó la orden en junio, creando un proceso de revisión voluntario para modelos avanzados antes de su lanzamiento.

Más directo que las preocupaciones de seguridad nacional, los incentivos financieros podrían dificultar un acuerdo.

“Cada avance bajo las condiciones actuales genera muchos millones o miles de millones más en financiamiento y coloca a los creadores de ese avance en una posición de mayor poder e influencia”, dijo Duncan Sabien, jefe de comunicaciones del Machine Intelligence Research Institute, a Decrypt.

Calificando la dinámica de carrera armamentista como real, Sabien dijo que OpenAI y Anthropic enfrentan presión para seguir avanzando a pesar de los riesgos inciertos porque cada nuevo sistema ayuda a construir sucesores más capaces, permitiendo que un rival se adelante si cualquiera de las empresas se frena sin un acuerdo compartido.

“Esto es especialmente cierto ya que las ganancias en inteligencia son compuestas; cada nuevo sistema facilita el entrenamiento y despliegue del siguiente sistema más avanzado”, dijo. “Sin algún tipo de mecanismo de coordinación, retroceder solo significa que el otro obtiene una ventaja.

En agosto, OpenAI pausó el trabajo interno de Astra carente de salvaguardas más sólidas debido a preocupaciones de ciberseguridad. Sin embargo, tanto OpenAI como Anthropic relajaron sus compromisos de seguridad en febrero, con el director científico de Anthropic, Jared Kaplan, argumentando que frenar el desarrollo de forma independiente tenía menos sentido mientras los competidores seguían avanzando.

El debate sobre frenar el desarrollo de la IA se intensificó esta semana después de que el exingeniero de Anthropic Jacob Coxon anunciara públicamente su renuncia, citando preocupaciones sobre los riesgos que el desarrollo continuo de la IA representa para la humanidad.

"Las personas que construyen la IA creen sinceramente que podría matarnos a todos para el final de la década", dijo Coxon en X, afirmando que no era una "treta publicitaria".

"En todo caso, muchos ejecutivos e investigadores sénior matizarán sus palabras en la prensa para parecer sensatos, pero escucho a esas mismas personas expresar miedo en privado. Ninguna otra actividad humana plantea este nivel de peligro", escribió.

Sin embargo, Sabien dijo que los investigadores pueden lograr poco al marcharse si alguien más simplemente ocupa su lugar.

"Si suficientes de ellos llegan a saber que todos deberían detenerse, entonces pueden superar la barrera de coordinación y detenerse juntos en lugar de ser simplemente reemplazados por la siguiente persona un poco menos cautelosa", dijo.