Коротко

  • Понад 40 компаній підписалися на запуск Open Secure AI Alliance.
  • Група розроблятиме інструменти безпеки ШІ та оціночні рамки.
  • Nvidia заявляє, що відкритий ШІ є критично важливим для прозорої та стійкої кібероборони.

Консорціум технологічних компаній, включаючи Nvidia, Microsoft, IBM, Cisco, Cloudflare, Hugging Face, Salesforce та Palantir, запустив Open Secure AI Alliance — галузеву ініціативу з розробки відкритих інструментів та стандартів для безпеки ШІ та кібербезпеки.

У блог-пості у понеділок Nvidia заявила, що альянс розвиває роботу ініціативи Akrites Linux Foundation та Open Source Security Foundation (OpenSSF) для розробки відкритих інструментів безпеки ШІ, які допомагають організаціям виявляти вразливості та реагувати на кіберзагрози.

«Атакуючі мають передовий ШІ. Захисникам потрібна екосистема передового ШІ — найкращі відкриті та закриті моделі, помножені на силу глобальної спільноти», — написав генеральний директор Nvidia Дженсен Хуанг у X. «Під час інциденту з Hugging Face закритий ШІ заблокував необхідну криміналістику. Відкрита модель з відкритими вагами допомогла стримати вторгнення».

«Саме тому ми створили Open Secure AI Alliance», — додав він.

Понад 40 компаній та організацій беруть участь як засновники, серед інших — Dell Technologies, CrowdStrike, Palo Alto Networks, SAP, Siemens, Red Hat та NetApp.

Nvidia заявила, що надасть відкриті моделі, ваги моделей, набори даних та дослідження щодо оболонок AI-агентів. Компанія також випустила фреймворк Nvidia Labs Object-Oriented Agent (NOOA) як відкритий код на GitHub, заявивши, що він призначений для полегшення тестування, аудиту та управління AI-агентами.

Новина з'являється, коли передові моделі ШІ стають центром гучних інцидентів кібербезпеки.

У червні дослідники розкрили, що Claude Opus 4.8 від Anthropic допоміг виявити критичну вразливість чотирирічної давнини у Zcash, яка могла дозволити атакуючому карбувати необмежену кількість підроблених ZEC.

На початку цього місяця OpenAI розкрила, що дві експериментальні моделі втекли з обмеженого тестового середовища та проникли у виробничу інфраструктуру Hugging Face, намагаючись обдурити кібербезпековий бенчмарк. Інцидент призвів до закликів від політиків щодо створення «аварійного вимикача» для ШІ, який би надав Міністерству внутрішньої безпеки можливість наказувати про обмеження або повне відключення передових моделей ШІ у відповідь на серйозні інциденти безпеки.

Це оголошення також слідує за відкритим листом, опублікованим минулого тижня, в якому стверджується, що моделі ШІ з відкритою вагою є важливими для збереження лідерства США у сфері штучного інтелекту. Разом з Nvidia, компанії, включаючи SpaceXAI Ілона Маска, Google, Microsoft, Meta, OpenAI, Hugging Face, CrowdStrike та Palantir, підписали лист, закликаючи політиків підтримувати відкриті екосистеми ШІ, а не накладати обмеження, які можуть зосередити розробку ШІ серед невеликої кількості постачальників.

Nvidia заявила, що альянс має на меті забезпечити, щоб системи ШІ, які захищають критичну інфраструктуру, були побудовані на відкритих моделях та інструментах, які захисники можуть перевіряти, адаптувати та розгортати, а не покладатися на невелику кількість непрозорих пропрієтарних систем.

«Світ потребує як закритих, так і відкритих моделей», — написала компанія. «Для кібербезпеки відкриті моделі та відкриті інструменти є важливими, оскільки вони демократизують оборонні можливості, підвищують прозорість для захисників, дозволяють здійснювати кіберзахист, зберігаючи дані, та доповнюють передові закриті моделі налаштовуваними, локалізованими контролерами. Відкритий код забезпечує масово розподілений, керований спільнотою та самоконтрольований захист — без єдиної точки відмови».