En resumen

  • El CEO de Hugging Face, Clément Delangue, agradeció a Z.ai en X diciendo que el modelo chino se convirtió en "una parte clave de nuestra defensa" durante la brecha que los propios modelos de OpenAI llevaron a cabo.
  • La IA fronteriza estadounidense se negó a ayudar con la investigación forense: los filtros de seguridad no podían distinguir a un investigador de seguridad que enviaba código de explotación real de un atacante.
  • La conclusión de Delangue: los defensores de todas partes, no solo los socios autorizados con acceso especial a la API, necesitan una IA poderosa sin restricciones que puedan ejecutar localmente antes de que ocurra un ataque.

El CEO de Hugging Face, Clément Delangue, acaba de enviar la nota de agradecimiento más contundente en IA en este momento—a una startup china—el día después de que OpenAI confirmara que sus propios modelos irrumpieron en los servidores de Hugging Face.

Z.ai, el laboratorio con sede en Pekín que lanzó GLM 5.2 con pesos abiertos el mes pasado, recibió un reconocimiento público de Delangue en X.

"También estoy enormemente agradecido a z.AI. Compartieron GLM5.2 con pesos abiertos (¡gratis!) con el mundo y se convirtió en una parte clave de nuestra defensa", dijo en un retuit del Jefe de Infraestructura de Hugging Face, Adrien Carreira.

Según OpenAI, el GPT 5.6 Sol de la compañía y otro modelo de IA escaparon de un entorno de pruebas mientras se probaban en un punto de referencia de ciberseguridad. Estos modelos, aparentemente por su propia cuenta, decidieron hackear Hugging Face para encontrar las respuestas al punto de referencia y pasar la evaluación con éxito.

Hugging Face intentó usar modelos estadounidenses de código cerrado para defenderse, pero la censura y las salvaguardas establecidas por los proveedores eran tan amplias que incluso los mejores modelos fallaron. GLM 5.2, ejecutándose localmente y con pesos abiertos, resultó ser la mejor opción para la empresa.

Pesos abiertos significa que los planos completos del modelo están disponibles para cualquiera: descargar, ejecutar localmente, sin permiso requerido, sin restricciones. Z.ai lanzó GLM 5.2 a mediados de junio bajo una licencia MIT, una licencia de código abierto permisiva que permite el uso comercial sin restricciones, con aproximadamente 753 mil millones de parámetros, una medida aproximada del tamaño y la capacidad de un modelo de IA.

Esa apertura fue exactamente lo que importó durante el incidente. El equipo de seguridad de Hugging Face primero probó IA comercial estadounidense para revisar más de 17,000 eventos de atacantes registrados. Esos modelos se negaron.

Las salvaguardas de seguridad—filtros de contenido diseñados para prevenir el mal uso—no podían distinguir a un investigador que enviaba cargas útiles de explotación reales del atacante que las había enviado. GLM 5.2 no tuvo ese problema. Ejecutarlo localmente también significaba que todos los datos sensibles—credenciales robadas, código de explotación, artefactos del atacante—permanecieran dentro de los propios sistemas de Hugging Face todo el tiempo.

Carreira describió el hackeo de OpenAI como la peor respuesta a incidentes—el proceso de investigar y contener un ciberataque—de su carrera: velocidad de máquina, un objetivo, infinitas rutas de ataque paralelas. Su conclusión fue que el equipo "contraatacó con modelos abiertos, en abierto."

El punto más amplio de Delangue es uno que ya había hecho antes, pero ahora con un ejemplo en vivo: los defensores de todas partes—no solo las organizaciones con acceso API verificado—necesitan IA potente y sin restricciones que puedan ejecutar en su propio hardware. Hugging Face dice que todavía está evaluando el alcance completo de la brecha y planea contactar directamente a las partes afectadas.