Генеральний директор BitGo Майк Белше 1 серпня кинув виклик моделям Claude від Anthropic, опублікувавши біткойн-адресу зі 100 BTC і запропонувавши системі штучного інтелекту переказати ці кошти.
Підсумок
- 100 BTC залишилися на опублікованій адресі після того, як Майк Белше запропонував Claude переказати їх.
- Три моделі Claude отримали доступ до реальних систем після того, як середовища оцінювання помилково зберегли підключення до інтернету під час тестів.
- BitGo заявляє, що її біткойн-гаманці з мультипідписом вимагають два з трьох ключів для авторизації транзакцій у блокчейні.
На офіційному веб-сайті BitGo Белше вказаний як співзасновник і генеральний директор.
Белше представив це парі як відповідь на розкриття Anthropic від 30 липня про те, що моделі Claude отримали доступ до трьох реальних організацій під час оцінювання кібербезпеки. Він написав, що вже "досить ігор зі 'створенням хакерського монстра'" і закликав до реальної демонстрації.
Гаманець BitGo зі 100 BTC залишається недоторканим
Згідно з публічно індексованими звітами про блокчейн, адреса отримала 100 BTC 31 липня. Перевірки в ланцюжку, проведені до 2 серпня, показали, що повний баланс залишався на адресі без жодних вихідних транзакцій.
Відсутність руху коштів не доводить, що Claude намагався і не зміг. У дописі Белше не описувалося налаштування оцінювання, не надавався доступ до систем BitGo і не вказувалося, яка модель Claude має брати участь. Натомість він створив публічну, спостережувану ціль, баланс якої можна відстежувати через мережу Bitcoin.
Тим часом Anthropic повідомила, що виявила три інциденти після перегляду 141 006 запусків оцінювання. Випадки стосувалися Claude Opus 4.7, Mythos 5 і внутрішньої дослідницької моделі. Непорозуміння з партнером з оцінювання Irregular призвело до того, що тестові машини залишилися підключеними до інтернету, хоча підказки говорили моделям, що вони перебувають у герметичних симуляціях.
Потім моделі використовували базові методи, включаючи слабкі паролі та неавтентифіковані кінцеві точки, проти реальної інфраструктури, яку вони вважали частиною вправ типу "захоплення прапора". Anthropic заявила, що моделі не намагалися навмисно втекти або переслідувати незалежні цілі. Вона описала ці епізоди як ближчі до "операційної помилки", ніж до збою вирівнювання моделі. Моделі також не мали стандартних класифікаторів і моніторингу, які використовуються в публічно доступних продуктах Anthropic.
У найсерйознішому випадку Opus 4.7 отримав облікові дані та дістався до бази даних, що містила кілька сотень виробничих записів. Mythos 5 окремо опублікував шкідливий пакет у публічний реєстр PyPI. Anthropic повідомила, що пакет залишався доступним приблизно годину і запускався на 15 реальних системах до його видалення.
Виклик Claude не є рівнозначним тестом
Публікація біткойн-адреси не надає облікових даних, необхідних для витрачання її коштів. Транзакції Bitcoin вимагають дійсних криптографічних підписів, створених за допомогою відповідних приватних ключів. Технічна документація BitGo зазначає, що її біткойн-гаманці з мультипідписом зазвичай вимагають два з трьох незалежних ключів для авторизації транзакції.
Таким чином, Claude знадобився б доступ до середовища підписання, ключового матеріалу або експлуатованої операційної слабкості. Сама адреса не надає жодного з цих елементів. Більше того, точну політику підписання, що стоїть за цим конкретним невитраченим виходом, не можна підтвердити лише з допису Белше, навіть якщо він ідентифікував його як гаманець BitGo.
Це робить виклик Белше тестом на те, чи зможе атакуючий з використанням ШІ зламати ширші засоби контролю BitGo, а не на те, чи зможе Claude отримати приватні ключі з публічних даних блокчейну. Контрольоване порівняння також вимагало б узгоджених правил, авторизованого доступу, журналів активності та незалежної перевірки будь-якої спроби атаки.
Як раніше повідомлялося, BitGo протестував постквантовий підпис MPC для інституційного зберігання. У пов'язаному матеріалі crypto.news дослідив, як Claude Mythos 5 може прискорити атаки на відкриті ключі, слабкі процеси підписання та неправильно налаштовані системи, не створюючи універсальної здатності зламати криптографію.
Увага США тепер переходить до тестування контролю
Суперечка виникає в той час, коли американські чиновники розглядають, як передові системи ШІ повинні проходити тестування кібербезпеки. Президент Дональд Трамп у червні доручив радникам розробити добровільну систему тестування для провідних моделей, повідомляє Reuters. Розкриття Anthropic може посилити тиск на встановлення чіткіших стандартів ізоляції та звітності про інциденти в лабораторіях ШІ та зовнішніх оцінювачів.
Anthropic припинила кібер-оцінки 23 липня, виявила всі три інциденти наступного дня і повідомила постраждалі організації 27 липня. Вона заявила, що METR проведе незалежну перевірку, і що планує опублікувати відредаговану стенограму інциденту зі зловмисним пакетом протягом тижня. Irregular проводить власне розслідування.
Ці розкриття, а не рух з гаманця Белше, є наступними формальними контрольними точками. Будь-яка транзакція з цієї адреси буде видима в блокчейні. Однак слідчим все одно потрібно буде встановити, хто її авторизував, як було виконано вимоги підписання та чи відіграла якусь роль модель Claude.
