Коротко
- Coinbase, Block, BitGo та понад 40 компаній підписали відкритий лист із вимогою до передових лабораторій відкрити програми довіреного доступу для кваліфікованих захисників.
- Його організував Інститут біткоїн-політики; серед підписантів — Blockstream, ARK Invest та інші.
- Розрив практичний: люди, які латають гаманці та програмне забезпечення вузлів, не можуть отримати доступ до найкращих моделей, тоді як ті, хто на них атакує, вже можуть.
Понад 40 біткоїн- та крипто-компаній цього тижня звернулися до найбільших AI-лабораторій із проханням дозволити незалежним дослідникам безпеки використовувати їхні найпотужніші моделі до публічного випуску.
Лист, опублікований 10 серпня, ґрунтується на простій асиметрії. Мережа біткоїна захищає понад трильйон доларів, а ширший стек — гаманці, пристрої для підписання, бібліотеки, системи зберігання — трильйони більше. Цей код написаний відкрито, і одна помилка може стерти чиїсь заощадження.
Проте супровідники, які підтримують його роботу, не можуть потрапити до перевірених дослідницьких програм, які проводять лабораторії ШІ. Коли вони звертаються до публічної моделі, захисні механізми блокують легітимний пошук вразливостей. Тому вони покладаються на системи з відкритою вагою, які можуть запускати самостійно, що корисно, але відстає від передових розробок — і від хакерів, які атакують криптовалютні мережі.
«Очевидно, що ранній доступ і розумні обчислювальні бюджети допомогли б основним розробникам створювати безпечніший код і виявляти та усувати вразливості до того, як стануться збитки», — йдеться у листі. «Тому ми просимо передові лабораторії ШІ створити або розширити постійні програми довіреного доступу для кваліфікованих захисників відкритої фінансової інфраструктури».
У листі зазначається, що лабораторії та кілька партнерів отримують багатомісячний доступ до нових можливостей атак раніше за решту світу, і ці можливості все одно виходять назовні через публічні релізи та скомпрометовані системи.
Лабораторії ще не взяли на себе зобов'язань
Наприкінці минулого місяця Bitcoin Security Consortium — BlackRock, Coinbase, Strategy, Anchorage, ARK, Block, Blockstream, Fidelity Digital Assets та Galaxy — виділили 15 мільйонів доларів на довгострокову безпеку мережі. Лист спрямований на інший розрив: не на гроші для майбутніх загроз, а на сучасні моделі для розробників, які їх виправляють.
На сьогодні великі лабораторії штучного інтелекту не висловили жодної публічної позиції з цього конкретного питання, однак компанії працюють над кращими запобіжними заходами, які б запобігли використанню можливостей їхніх моделей у зловмисних цілях, незалежно від того, чи це кодування блокчейну, чи будь-яке інше використання.
Anthropic показав, як ті самі моделі живлять «віб-хакінг» — злочинці проводять атаки з викупом наживо на Bitcoin за допомогою ШІ — і стверджує, що ці інструменти роблять напад дешевшим. Надання захисникам потужніших моделей означає вибір тих, хто відповідає вимогам, і довіру їм не допустити витоку.
Лист просить лабораторії все ж таки взяти на себе цей ризик.
