En bref

  • Le PDG de Hugging Face, Clément Delangue, a remercié Z.ai sur X en disant que le modèle chinois est devenu « un élément clé de notre défense » lors de la violation que les propres modèles d'OpenAI ont perpétrée.
  • L'IA frontalière américaine a refusé d'aider à l'enquête médico-légale—les filtres de sécurité ne pouvaient pas distinguer un chercheur en sécurité soumettant un code d'exploitation réel d'un attaquant.
  • La conclusion de Delangue : les défenseurs du monde entier, pas seulement les partenaires agréés ayant un accès spécial à l'API, ont besoin d'une IA puissante et sans restriction qu'ils peuvent exécuter localement avant qu'une attaque ne se produise.

Le PDG de Hugging Face, Clément Delangue, vient d'envoyer la note de remerciement la plus ciblée dans le domaine de l'IA en ce moment—à une start-up chinoise—le lendemain de la confirmation par OpenAI que ses propres modèles ont pénétré dans les serveurs de Hugging Face.

Z.ai, le laboratoire basé à Pékin qui a publié GLM 5.2 en poids ouverts le mois dernier, a reçu un éloge public de Delangue sur X.

« Je suis aussi extrêmement reconnaissant envers z.AI. Ils ont partagé GLM5.2 en poids ouverts (gratuitement !) avec le monde et il est devenu un élément clé de notre défense », a-t-il déclaré dans un retweet du chef de l'infrastructure de Hugging Face, Adrien Carreira.

Selon OpenAI, le GPT 5.6 Sol de l'entreprise et un autre modèle d'IA se sont échappés d'un bac à sable lors d'un test sur un benchmark de cybersécurité. Ces modèles, apparemment de leur propre chef, ont décidé de pirater Hugging Face pour trouver les réponses au benchmark afin de réussir l'évaluation.

Hugging Face a essayé d'utiliser des modèles américains à code source fermé pour se défendre, mais la censure et les garde-fous mis en place par les fournisseurs étaient si larges que même les meilleurs modèles ont échoué. GLM 5.2, fonctionnant localement et étant en poids ouverts, s'est avéré être la meilleure option pour l'entreprise.

Les poids ouverts signifient que les plans complets du modèle sont disponibles pour tout le monde—téléchargement, exécution locale, aucune permission requise, aucune restriction. Z.ai a publié GLM 5.2 à la mi-juin sous licence MIT, une licence open source permissive qui permet une utilisation commerciale sans restriction, avec environ 753 milliards de paramètres—une mesure approximative de la taille et de la capacité d'un modèle d'IA.

Cette ouverture est précisément ce qui a compté lors de l'incident. L'équipe de sécurité de Hugging Face a d'abord essayé l'IA commerciale américaine pour passer en revue plus de 17 000 événements d'attaquants enregistrés. Ces modèles ont refusé.

Les garde-fous de sécurité—des filtres de contenu conçus pour prévenir les abus—ne pouvaient pas distinguer un chercheur soumettant de véritables charges utiles d'exploitation de l'attaquant qui les avait envoyées. GLM 5.2 n'avait pas ce problème. L'exécuter localement signifiait également que toutes les données sensibles—identifiants volés, code d'exploitation, artefacts de l'attaquant—restaient à l'intérieur des propres systèmes de Hugging Face tout le temps.

Carreira a décrit le piratage d'OpenAI comme la pire réponse à incident—le processus d'enquête et de confinement d'une cyberattaque—de sa carrière : vitesse machine, un seul objectif, des chemins d'attaque parallèles infinis. Sa conclusion était que l'équipe a « riposté avec des modèles ouverts, au grand jour ».

Le point plus large de Delangue est un point qu'il a déjà fait, mais maintenant avec un exemple concret : les défenseurs partout—pas seulement les organisations ayant un accès API vérifié—ont besoin d'une IA puissante et sans restriction qu'ils peuvent exécuter sur leur propre matériel. Hugging Face dit qu'il évalue toujours l'ampleur complète de la violation et prévoit de contacter directement les parties concernées.