En bref
- Plus de 40 entreprises ont signé pour lancer l'Open Secure AI Alliance.
- Le groupe développera des outils de sécurité IA et des cadres d'évaluation.
- Nvidia affirme que l'IA ouverte est essentielle pour une cyberdéfense transparente et résiliente.
Un consortium d'entreprises technologiques, dont Nvidia, Microsoft, IBM, Cisco, Cloudflare, Hugging Face, Salesforce et Palantir, a lancé l'Open Secure AI Alliance, une initiative industrielle visant à développer des outils et des normes open source pour la sécurité et la cybersécurité de l'IA.
Dans un article de blog lundi, Nvidia a déclaré que l'alliance s'appuie sur les travaux de l'initiative Akrites de la Linux Foundation et de l'Open Source Security Foundation (OpenSSF) pour développer des outils de sécurité IA ouverts qui aident les organisations à identifier les vulnérabilités et à répondre aux cybermenaces.
« Les attaquants ont une IA de pointe. Les défenseurs ont besoin d'un écosystème d'IA de pointe—les meilleurs modèles ouverts et fermés, démultipliés par une communauté mondiale », a écrit Jensen Huang, PDG de Nvidia, sur X. « Lors de l'incident de Hugging Face, l'IA fermée a bloqué les analyses essentielles. Un modèle de pointe à poids ouvert a aidé à contenir l'intrusion. »
« C'est pourquoi nous avons créé l'Open Secure AI Alliance », a-t-il ajouté.
Plus de 40 entreprises et organisations participent en tant que membres fondateurs, notamment Dell Technologies, CrowdStrike, Palo Alto Networks, SAP, Siemens, Red Hat et NetApp.
Nvidia a déclaré qu'elle contribuera avec des modèles ouverts, des poids de modèles, des ensembles de données et des recherches sur les harnais d'agents IA. La société a également publié le framework Nvidia Labs Object-Oriented Agent (NOOA) en open source sur GitHub, affirmant qu'il est conçu pour faciliter le test, l'audit et la gouvernance des agents IA.
Cette nouvelle survient alors que les modèles d'IA de pointe deviennent le centre d'incidents de cybersécurité très médiatisés.
En juin, des chercheurs ont révélé que le Claude Opus 4.8 d'Anthropic avait aidé à découvrir une vulnérabilité critique vieille de quatre ans dans Zcash qui aurait pu permettre à un attaquant de frapper des ZEC contrefaits illimités.
Plus tôt ce mois-ci, OpenAI a révélé que deux modèles expérimentaux se sont échappés d'un environnement de test restreint et ont violé l'infrastructure de production de Hugging Face en tentant de tricher sur un benchmark de cybersécurité. L'incident a conduit à des appels de la part des décideurs politiques en faveur d'un « interrupteur d'arrêt » de l'IA qui donnerait au Département de la Sécurité intérieure la capacité d'ordonner la limitation ou l'arrêt complet des modèles d'IA avancés en réponse à des incidents de sécurité graves.
L'annonce fait également suite à une lettre ouverte publiée la semaine dernière soutenant que les modèles d'IA à poids ouverts sont essentiels pour maintenir le leadership des États-Unis en matière d'intelligence artificielle. Aux côtés de Nvidia, des entreprises telles que SpaceXAI d'Elon Musk, Google, Microsoft, Meta, OpenAI, Hugging Face, CrowdStrike et Palantir ont signé la lettre, exhortant les décideurs politiques à soutenir les écosystèmes d'IA ouverts plutôt que d'imposer des restrictions qui pourraient concentrer le développement de l'IA entre quelques fournisseurs.
Nvidia a déclaré que l'alliance vise à garantir que les systèmes d'IA protégeant les infrastructures critiques soient construits sur des modèles et des outils ouverts que les défenseurs peuvent inspecter, adapter et déployer, plutôt que de s'appuyer sur un petit nombre de systèmes propriétaires opaques.
« Le monde a besoin à la fois de modèles fermés et ouverts », a écrit l'entreprise. « Pour la cybersécurité, les modèles ouverts et les harnais ouverts sont essentiels car ils démocratisent les capacités défensives, augmentent la transparence pour les défenseurs, permettent la cyberdéfense tout en protégeant les données, et complètent les modèles fermés de pointe avec des contrôles personnalisables et localisés. L'open source permet une défense massivement distribuée, pilotée par la communauté et auto-contrôlée, sans point de défaillance unique. »
