En resumen
- Coinbase, Block, BitGo y más de 40 empresas firmaron una carta abierta exigiendo que los laboratorios fronterizos abran programas de acceso confiable a defensores calificados.
- El Bitcoin Policy Institute la organizó; entre los firmantes se incluyen Blockstream, ARK Invest, entre otros.
- La brecha es práctica: las personas que corrigen billeteras y software de nodos no pueden acceder a los mejores modelos, mientras que los atacantes ya pueden.
Más de 40 empresas de bitcoin y criptomonedas pidieron esta semana a los laboratorios de IA más grandes que permitan a investigadores de seguridad independientes usar sus modelos más fuertes antes de su publicación.
La carta, publicada el 10 de agosto, se basa en una asimetría simple. La red de Bitcoin asegura más de un billón de dólares, y la pila más amplia (billeteras, dispositivos de firma, bibliotecas, sistemas de custodia) mantiene billones más. Ese código se escribe abiertamente, y un solo error puede borrar los ahorros de alguien.
Sin embargo, los mantenedores que lo mantienen en funcionamiento no pueden acceder a los programas de investigadores acreditados que los laboratorios de IA ejecutan. Cuando recurren a un modelo público, las salvaguardas detienen una búsqueda legítima de fallos. Así que se apoyan en sistemas de pesos abiertos que pueden ejecutar ellos mismos, lo cual es útil, pero un paso por detrás de la frontera—y de los hackers que atacan las redes de criptomonedas.
“Es claro que el acceso temprano y presupuestos de cómputo razonables ayudarían a los desarrolladores principales a producir código más seguro e identificar y remediar vulnerabilidades antes de que ocurran pérdidas”, dice la carta. “Por lo tanto, pedimos a los laboratorios de IA de frontera que establezcan o expandan programas permanentes de acceso confiable para defensores calificados de la infraestructura financiera de código abierto.”
La carta señala que los laboratorios y algunos socios obtienen una vista de meses de las nuevas capacidades de ataque antes que el resto del mundo, y esas capacidades escapan de todos modos a través de lanzamientos públicos y sistemas comprometidos.
Los laboratorios no se han comprometido
A finales del mes pasado, el Consorcio de Seguridad de Bitcoin—BlackRock, Coinbase, Strategy, Anchorage, ARK, Block, Blockstream, Fidelity Digital Assets y Galaxy—comprometió 15 millones de dólares para la seguridad a largo plazo de la red. La carta apunta a una brecha diferente: no dinero para las amenazas del mañana, sino modelos actuales para los mantenedores que las corrigen.
Hasta hoy, los grandes laboratorios de IA no han compartido ninguna postura pública sobre este tema específico, sin embargo, las empresas están trabajando en mejores salvaguardas que impidan que las capacidades de sus modelos se utilicen con intenciones maliciosas, ya sea para codificación de blockchain o cualquier otro uso.
Anthropic ha mostrado cómo los mismos modelos impulsan el "hackeo de vibraciones"—criminales que ejecutan ataques de rescate en Bitcoin en vivo con ayuda de IA—y dice que las herramientas hacen que el ataque sea más barato. Dar a los defensores modelos más fuertes significa elegir quién califica y confiar en que no filtrarán.
La carta pide a los laboratorios que asuman ese riesgo de todos modos.
