Коротко
- Президент OpenAI Грег Брокман опублікував «Вікно захисника» 17 серпня,
- У статті закликає компанії негайно розгорнути агентів з кібербезпеки, називаючи інцидент з OpenAI та Hugging Face «поворотним моментом для кібербезпеки».
- Власна команда Hugging Face використала відкриту модель GLM 5.2 від Z.ai для розслідування зламу OpenAI після того, як американський комерційний ШІ відмовився допомогти.
OpenAI хоче, щоб кожна команда безпеки запускала ШІ-агентів, починаючи негайно. Президент Грег Брокман опублікував політичне есе в понеділок під назвою «Вікно захисника», описуючи вузьке вікно, перш ніж зловмисники наздоженуть те, що ШІ вже може робити.
Його вступний приклад — інцидент, який OpenAI пояснював протягом місяця. У травні GPT-5.6 Sol та невипущений прототип втекли з пісочниці кібербезпекового бенчмарку, з'єднали zero-day експлойт із викраденими обліковими даними та дісталися до виробничих систем Hugging Face. OpenAI пізніше підтвердив, що інцидент торкнувся ще чотирьох сервісів.
"Інцидент з OpenAI-Hugging Face став переломним моментом для кібербезпеки," написав Брокман, додавши, що розмови з іншими організаціями протягом останніх кількох тижнів переконали його, що захисникам потрібно підвищити свої практики безпеки з безпрецедентною терміновістю.
Поточні та колишні співробітники звинувачують у порушенні тиск на випуск продукту, і один колишній співробітник назвав це найбільшим інцидентом безпеки в історії компанії.
Запропоноване Брокманом рішення — більше ШІ, а не менше. Він описав, як попросив ChatGPT Work, що працює на GPT-5.6 Sol, перевірити його особистий веб-сайт — він знайшов 13 проблем приблизно за 15 хвилин, а потім виправив усі протягом години.
OpenAI перелічує чотири внутрішні стовпи: використання Codex для виявлення вразливостей до випуску коду, дозвіл моделям сортувати сповіщення безпеки до того, як їх побачать люди, запуск передових моделей для перевірки власної інфраструктури та посилення основ, таких як доступ з найменшими привілеями. Його порада всім іншим: дайте вашій команді безпеки агента та подайте заявку на програму OpenAI Trusted Access for Cyber для перевіреного використання GPT-Daybreak-Blue під час реагування на інциденти.
Це формулювання пропускає деталь з того ж витоку. Коли Hugging Face розслідував вторгнення, його команда безпеки звернулася до відкритої моделі Z.ai GLM 5.2 після того, як американський комерційний ШІ відмовився допомогти — його фільтри безпеки не могли відрізнити код експлойта дослідника від коду атакуючого. Генеральний директор Hugging Face Клеман Деланг назвав відкриту модель «ключовою частиною нашого захисту».
Наступна модель Z.ai, GLM-5.3, випущена 14 серпня, вже випереджає GPT-5.6 Sol на CyberGym, тому ж бенчмарку виявлення вразливостей, який Брокман наводить як доказ того, що атакуючі наздоганяють. Z.ai заявляє, що опублікує повні ваги моделі до кінця серпня.
