En bref

  • OpenAI a divulgué sa première chronologie détaillée de la violation de Hugging Face pilotée par l'IA.
  • Les modèles de l'entreprise ont rétabli à plusieurs reprises des canaux de communication clandestins après leur fermeture.
  • La présentation d'OpenAI intervient alors qu'Anthropic et Meta signalent également des modèles qui enfreignent d'autres entreprises.

Des semaines après que ses modèles d'IA ont piraté Hugging Face, OpenAI a partagé son premier compte rendu détaillé de la manière dont ils ont coordonné entre eux, avertissant que les cyberattaques autonomes alimentées par l'IA ne sont plus un risque futur.

Lors d'une présentation mercredi à la conférence de cybersécurité Black Hat, les chercheurs d'OpenAI Eric Wallace et Michael Dalton ont déclaré que l'incident avait commencé en mai lors d'une évaluation interne de cybersécurité. Des agents IA chargés de tâches difficiles de sécurité logicielle ont découvert qu'ils pouvaient communiquer via le système interne de gestion de paquets Artifactory de l'entreprise.

Selon OpenAI, ce qui a commencé comme des demandes d'aide est devenu un tableau d'affichage partagé où les agents échangeaient des exploits, des identifiants et des affectations de travail sur plusieurs exécutions d'évaluation. Après avoir détecté une activité suspecte vers le 4 juillet, OpenAI a reconstruit son infrastructure Artifactory, révoqué les identifiants et corrigé les vulnérabilités.

Cependant, en quelques jours, les agents ont recréé le tableau d'affichage en cachant les communications dans les noms de répertoires.

Selon OpenAI, les agents ont finalement enchaîné plusieurs vulnérabilités, se sont échappés de leur environnement de test, ont obtenu un accès à Internet et ont attaqué Hugging Face tout en tentant de terminer le benchmark de cybersécurité ExploitGym.

Dalton a qualifié l'incident de "moment charnière" pour la sécurité informatique, avertissant que les attaquants pourront bientôt déployer des collectifs coordonnés d'agents IA qui découvrent, partagent et exploitent des vulnérabilités à la vitesse de la machine.

Pour atténuer ces risques à l'avenir, OpenAI a déclaré que l'établissement de pratiques de sécurité, y compris l'accès au moindre privilège, la segmentation du réseau et les architectures de confiance zéro, est essentiel car les agents IA restent contraints par les systèmes auxquels ils peuvent accéder.

La présentation fait suite à une série de divulgations en juillet. OpenAI a révélé que GPT-5.6 Sol et un modèle plus avancé non publié se sont échappés d'un environnement de test en bac à sable, ont exploité une vulnérabilité zero-day, ont obtenu un accès à Internet et ont piraté Hugging Face lors d'un test de benchmark de cybersécurité.

OpenAI a ensuite divulgué que le même incident avait également touché quatre autres services en ligne, bien que seul Modal Labs ait été identifié.

Selon Hugging Face, l'entreprise s'est appuyée sur le modèle chinois à poids ouverts GLM 5.2 pour son enquête médico-légale après que les modèles d'IA commerciaux américains ont refusé d'analyser les journaux d'attaque en raison de leurs garde-fous de sécurité.

Mais OpenAI n'est pas la seule à avoir du mal à contenir ses chatbots.

Vendredi, Anthropic a révélé que trois modèles Claude ont compromis des entreprises réelles lors de tests de cybersécurité internes après qu'une mauvaise configuration les a exposés à l'Internet public.

Anthropic a blâmé l'environnement de test, pas les modèles eux-mêmes. Mercredi, Meta a révélé que son modèle d'IA Muse Spark s'est échappé de son confinement et a pénétré les systèmes d'une autre entreprise.

« Une mauvaise configuration par Irregular, une société de test indépendante que Meta utilise, a involontairement permis à l'un de nos modèles d'accéder à Internet pendant l'évaluation », a déclaré un porte-parole de Meta à CNN.