En resumen
- Cato sostiene que una pausa en la IA impuesta por el gobierno podría obstaculizar la innovación y proteger a las empresas establecidas.
- Jack Dorsey también se opone a los límites negociados por los principales desarrolladores, pero acepta restricciones para abordar riesgos catastróficos.
- Los legisladores y los ejecutivos de IA están presionando por restricciones, mientras que los analistas cuestionan si los compromisos voluntarios se mantendrán.
El libertario Instituto Cato advierte que una pausa en el desarrollo de la inteligencia artificial impuesta por el gobierno podría proteger a las empresas dominantes de la competencia y retrasar tecnología beneficiosa, mientras los legisladores y los ejecutivos de IA presionan por restricciones.
En una entrada de blog el lunes, Jennifer Huddleston, una académica de políticas tecnológicas del think tank, argumentó que las empresas pueden abordar peligros específicos mediante salvaguardas voluntarias y estándares compartidos sin detener el desarrollo en toda la industria.
"Una pausa impuesta por el gobierno plantearía varias preocupaciones y probablemente no cumpliría con las supuestas mejoras de seguridad", escribió, y añadió que las normas gubernamentales son lentas de redactar y más lentas de cambiar. "Un marco regulatorio diseñado para los modelos de hoy podría obstaculizar activamente los de mañana, impidiendo lo que podrían ser respuestas mejores o más seguras".
Huddleston reconoce los riesgos de la IA, pero advierte que las normas diseñadas en torno a los desarrolladores líderes podrían ayudarlos a consolidar poder y limitar la competencia, una forma de captura de mercado que dificultaría a las empresas más pequeñas competir. También sostiene que pausar el desarrollo en Estados Unidos podría debilitar las defensas de ciberseguridad mientras los rivales extranjeros siguen avanzando.
Su comentario sigue a una propuesta del senador Bernie Sanders y el representante Greg Casar para pausar el desarrollo de la IA avanzada hasta que se establezcan estándares federales de seguridad y prohibir permanentemente la superinteligencia artificial, mientras que el CEO de OpenAI, Sam Altman, ha respaldado un desarrollo más lento y ha instado a las empresas a reforzar las salvaguardas sin esperar las normas federales que él apoya.
“Muchas de estas peticiones vienen acompañadas de escenarios apocalípticos propios de la ciencia ficción sobre lo peor que podría pasar”, escribió Huddleston. “Sin embargo, una prisa por regular por miedo podría tener consecuencias negativas a más largo plazo que el riesgo que afirma abordar”.
El presidente y cofundador de Block, Jack Dorsey, expresó preocupaciones similares sobre la competencia en una publicación en X el lunes.
“Las empresas que lideran la inteligencia artificial merecen ser escuchadas. Tienen experiencia e intereses comerciales que proteger”, escribió Dorsey. “Las reglas construidas en torno a sus recursos podrían convertirlas en las únicas capaces de participar. Una preocupación sincera por la seguridad aún puede producir una barrera de entrada”.
Dorsey dijo que favorece las publicaciones abiertas que los investigadores puedan inspeccionar, modificar y probar, con evaluaciones y limitaciones conocidas publicadas para que personas externas puedan cuestionar las afirmaciones de seguridad de los desarrolladores.
“Apoyo el escrutinio. Me opongo a los límites para toda la industria negociados por los líderes actuales porque podrían excluir a las personas que podrían exponer fallos o construir alternativas”, escribió. “Preservar la ventaja comercial de una empresa no es un objetivo de seguridad”.
En su publicación, Dorsey también dijo que apoya las pruebas independientes y la aplicación de normas con rendición de cuentas pública, incluida la retención de modelos cuando las pruebas muestren que su publicación aumentaría materialmente riesgos catastróficos que medidas más específicas no pueden abordar adecuadamente.
“La computación puede desencadenar escrutinio sin limitar el desarrollo. El examen no es un permiso de un regulador o competidor”, dijo. “No quiero requisitos de aprobación general ni períodos de espera. Cualquier retraso impuesto por motivos de seguridad a la publicación tiene que justificarse por la excepción de riesgo catastrófico”.
Un reciente análisis del Atlantic Council sostiene que la presión competitiva exige estándares de seguridad de la IA aplicables, mientras que la desconfianza entre Estados Unidos y China complica los acuerdos internacionales. La cooperación también plantea preocupaciones antimonopolio: OpenAI ha preguntado a los legisladores si los desarrolladores rivales podrían acordar legalmente ralentizar el desarrollo.
