Співзасновник Solana Анатолій Яковенко поставив під сумнів фінансові мотиви пропозиції щодо уповільнення ШІ, яку підтримали Даріо Амодеї, Сем Альтман і Ілон Маск 13 вересня.
Резюме
- Співзасновник Solana Анатолій Яковенко пов'язав пропозиції щодо темпів розвитку ШІ з прибутковістю на рівні ринкової капіталізації в трильйон доларів.
- План Даріо Амодеї закликає до вбудованих оцінювачів, галузевої координації та можливих міжнародних угод про безпеку зрештою.
- Генеральний директор OpenAI Сем Альтман підтримав вбудованих зовнішніх оцінювачів і пообіцяв незабаром публічно оприлюднити подальші деталі впровадження.
- Ілон Маск підтримав пропозицію Амодеї короткою заявою, про яку повідомило Reuters у суботу публічно.
- Девід Сакс стверджував, що лабораторії могли б добровільно сповільнитися без потреби в координованій регуляторній структурі від конкурентів.
Допис Яковенка в X звів його відповідь до чотирьох слів: «Прибутковість при капіталізації $1 трильйон». Він не уточнив, про яку компанію йдеться, і не надав розрахунків доходу, оцінки чи прибутковості на підтримку цього коментаря.
Зауваження було відповіддю на дебати, розпочаті генеральним директором Anthropic Даріо Амодеї, який опублікував есе із закликом уповільнити прогрес у сфері передового штучного інтелекту. Генеральний директор OpenAI Сем Альтман підтримав частину пропозиції, тоді як Маск написав, що «Даріо має рацію», за даними Reuters.
Яковенко пов'язує темпи розвитку ШІ з фінансовими стимулами
Коментар Яковенка представив прибутковість як можливий мотив для уповільнення розробки моделей, але співзасновник Solana подав цю ідею як саркастичне зауваження. Його допис не містив доказів того, що Anthropic, OpenAI або xAI координували свої заяви з фінансових причин.
Жодна названа компанія не підтвердила, що її підтримка повільнішого розвитку залежить від досягнення оцінки в $1 трильйон. Пропозиція Амодеї натомість посилається на збої контролю моделей, кіберризики та швидкість, з якою системи ШІ допомагають створювати новіші системи.
Reuters повідомило, що Anthropic і OpenAI готувалися до потенційних первинних публічних розміщень. У звіті описано фінансові стимули навколо розробки моделей, але не встановлено, що якась із компаній досягла ринкової капіталізації в $1 трильйон або поставила прибутковість у залежність від такої оцінки.
Оскільки компанії залишаються приватними, посилання на ринкову капіталізацію можуть описувати лише оцінки з приватних транзакцій або запропонованих лістингів. Яковенко не пояснив, чи стосувалася його цифра Anthropic, OpenAI, xAI або сектору передового ШІ загалом.
Таким чином, його заява є особистим коментарем, а не розкритим фінансовим прогнозом від Solana Labs, Anthropic, OpenAI або xAI. Жодна заява Solana Foundation не пов'язувала блокчейн-мережу або її токен SOL із суперечкою щодо політики в сфері ШІ.
Амодеї хоче впорядкувати темпи розвитку передового ШІ, а не зупинити його
У своєму есе «Ми повинні впорядкувати темпи розвитку передового рубежу» Амодеї заявив, що розробники повинні сповільнити темпи вдосконалення можливостей моделей. Він відрізнив уповільнення темпів від зупинки навчання моделей або припинення технічних досліджень.
«Ми повинні сповільнити темпи, з якими ми вдосконалюємо можливості моделей ШІ», — написав Амодеї. Він сказав, що прогрес може залишатися швидким, поки розробники витрачають більше часу на тестування запобіжних заходів, вивчення поведінки моделей і надання зовнішнім оцінювачам можливості перевіряти їхню роботу.
Пропозиція містить три етапи. Anthropic планує надати стороннім оцінювачам постійний доступ, порівнянний із доступом, який мають внутрішні співробітники, що оцінюють ризики. Амодеї назвав організацію Model Evaluation and Threat Research, відому як METR, як приклад.
Другий етап закликає компанії передового ШІ в демократичних країнах координувати спільні вимоги безпеки та обмеження для неконтрольованого зростання можливостей. Амодеї визнав, що частини такої координації можуть порушити питання антимонопольного законодавства і можуть вимагати вузького урядового дозволу.
Його третій етап закликає до міжнародної координації, включаючи можливі угоди з Китаєм. Есей описує кілька можливих рівнів, починаючи від обмежень на біологічну зброю з підтримкою ШІ до зрештою обмеження швидкого, автоматизованого вдосконалення моделей.
Амодеї представив всеосяжну паузу як найменш імовірну форму міжнародної угоди, оскільки верифікація була б складною. Він стверджував, що будь-яка домовленість повинна зберігати технологічну позицію Сполучених Штатів та їхніх союзників.
Альтман і Маск підтримали частини плану
Генеральний директор OpenAI Сем Альтман дав пропозиції пряму підтримку в дописі від 12 вересня. «Я згоден з Даріо, що нам потрібно сповільнити темп розвитку передових технологій», — написав Альтман.
Альтман конкретно прийняв заклик Амодеї щодо вбудованих зовнішніх оцінювачів. «Зобов'язання мати незалежних оцінювачів із доступом, подібним до доступу співробітників, — це чудова ідея, і ми зробимо те саме», — сказав він. OpenAI пообіцяла більше інформації, але не надала дати впровадження, імені оцінювача чи умов доступу.
Маск відповів більш стисло. Reuters та Financial Times повідомили, що він поширив есей Амодеї та написав: «Даріо має рацію». Публічна відповідь не уточнювала, які частини триетапного плану впровадить xAI.
Таким чином, наявні заяви підтверджують включення Маска до групи керівників, які підтримали Амодеї. Вони не встановлюють, що Маск, Альтман і Амодеї спільно розробили план або погодили його регуляторні деталі.
Жоден із трьох керівників публічно не підтримав запропонований Яковенком зв'язок між сповільненням темпу та трильйонними оцінками. Твердження Яковенка залишається його характеристикою їхніх мотивів.
Сакс відкидає необхідність галузевої координації
В окремому дописі в X Девід Сакс сказав, що Anthropic і OpenAI могли б сповільнити власний розвиток, не вимагаючи участі конкурентів чи законодавців.
«Ви, хлопці, і є передовий рубіж», — написав Сакс, звертаючись до Амодеї та Альтмана. Він описав дві компанії як такі, що мають «дуополію на передовий інтелект», — твердження, засноване на його оцінці можливостей моделей, зростання доходів і частки ринку.
Сакс сказав, що підтримав би добровільне сповільнення, якби невипущені системи становили ризики, достатньо серйозні, щоб турбувати їхніх розробників. Він заперечив необхідність антимонопольного винятку, системи регуляторного схвалення або оцінювачів з повноваженнями щодо конкуруючих лабораторій.
Однак його допис звинуватив компанії в можливому «регуляторному захопленні», але не навів жодних доказів угоди між Anthropic і OpenAI щодо виключення конкурентів. Жодна з компаній публічно не прийняла опис Сакса станом на 13 вересня.
Сакс назвав відповідальність за продукт ще однією можливою причиною, чому компанії віддають перевагу більш передбачуваним системам. Він стверджував, що клієнти вже карають моделі, які поводяться несанкціоновано або ненадійно. Компанії не підтвердили, що побоювання щодо відповідальності спонукали їхні схвалення.
Допис поставив під сумнів, чи братиме Китай участь у глобальній угоді щодо ШІ. Есей Амодеї визнає ту саму проблему верифікації, хоча Амодеї все ще підтримує переговори щодо вузько визначених ризиків.
Зовнішні оцінювання — наступний обіцяний крок
Anthropic зобов'язалася запросити зовнішню команду перевірки до свого внутрішнього процесу безпеки. У її есеї зазначено, що рецензенти повинні отримати корпоративні ноутбуки, доступ до офісу та дозволи, подібні до внутрішнього персоналу з оцінки ризиків, з урахуванням юридичних обмежень і обмежень конфіденційності.
Запланованим рецензентам буде дозволено публікувати висновки без контролю Anthropic над їхніми висновками. Обмежені редагування могли б охоплювати юридично захищену, чутливу з точки зору безпеки, комерційно чутливу або конфіденційну інформацію третіх сторін. Жоден контракт з оцінювачем або дата початку не супроводжували есей. OpenAI пообіцяла впровадити подібну систему. Альтман сказав, що компанія розкриє більше деталей «незабаром», залишаючи без відповіді питання щодо оцінювача, обсягу та правил публікації.
Американські законодавці розглядають більш обмежувальні підходи. Як раніше повідомляло crypto.news, пропозиція Сандерса-Касара прагне постійної заборони на штучний суперінтелект та тимчасового призупинення роботи над передовим ШІ, доки новий федеральний регулятор не встановить правила безпеки. Повний законопроєкт не був офіційно внесений, коли його спонсори оприлюднили своє резюме.
Питання кібербезпеки залишаються частиною політичної дискусії. У супутньому матеріалі документ Банку міжнародних розрахунків попереджав, що ШІ може скоротити вікна для виправлення програмного забезпечення з тижнів до хвилин, оскільки автоматизовані системи виявляють та використовують уразливості швидше.
Амодеї закликав передові лабораторії впровадити вбудовані оцінювання та координувати стандарти безпеки, тоді як Альтман зобов’язав OpenAI до зовнішнього оцінювання без публікації графіка.
