Коротко
- За даними WIRED, OpenAI запитала законодавців, чи могли б конкуруючі розробники ШІ юридично координувати уповільнення.
- Експерти кажуть, що фінансування та конкурентний тиск заважають компаніям самостійно уповільнювати розробку.
- Законопроєкт у Конгресі захищав би певні угоди щодо обмеження розробки ШІ для усунення ризиків безпеки.
OpenAI запитала членів Конгресу, чи могли б конкуруючі компанії зі ШІ юридично домовитися про уповільнення розробки, оскільки її головний науковець закликає галузь встановити спільні стандарти безпеки.
Згідно зWIRED, яке посилалося на людей, близьких до компанії, OpenAI останніми тижнями запитувала законодавців, чи могла б угода між компаніями зі ШІ про уповільнення розробки порушити антимонопольне законодавство.
Звернення до законодавців сталося після заклику головного науковця OpenAI Якуба Пачоцького до добровільного уповільнення, доки розробники не зможуть краще продемонструвати безпечність своїх систем. Але компанії зазнають тиску, щоб продовжувати просуватися навіть тоді, коли їхні власні дослідники мають застереження.
«Коммерційна та геополітична конкуренція у сфері ШІ є неймовірно інтенсивною, що призводить до тривожної динаміки, коли компанії мають стимул випускати продукти до того, як їхні ризики повністю зрозумілі», — сказала Decrypt Міранда Боґен, головна технологиня Центру демократії та технологій.
«Навіть коли внутрішній персонал знає, що потрібно більше досліджень і тестувань, їхні компанії зазнають величезного тиску, щоб зрізати кути та пропустити критичні тести безпеки, попри накопичення доказів про наслідки занадто швидкого руху», — додала вона.
Угода про уповільнення розвитку ШІ могла б викликати антимонопольні занепокоєння, обмежуючи конкуренцію. Сенатори Адам Шифф і Джим Бенкс внесли законодавство для захисту певних безпекових співпраць, за умови попереднього повідомлення Міністерства юстиції.
Дебати щодо уповільнення розвитку ШІ точаться в той час, коли Сполучені Штати та Китай змагаються за лідерство в цій технології. Президент США Дональд Трамп відклав виконавчий указ щодо ШІ у травні через побоювання, що він може послабити перевагу Америки над Китаєм. Пізніше Трамп підписав указ у червні, створивши добровільний процес перевірки передових моделей перед випуском.
Більш безпосередньо, ніж занепокоєння щодо національної безпеки, фінансові стимули можуть ускладнити досягнення угоди.
«Кожен прорив за поточних умов приносить багато мільйонів або мільярдів додаткового фінансування та ставить творців цього прориву в кращу позицію влади й впливу», — сказав Decrypt Дункан Сабієн, керівник комунікацій Інституту дослідження машинного інтелекту.
Називаючи динаміку гонки озброєнь реальною, Сабієн сказав, що OpenAI та Anthropic зазнають тиску продовжувати просуватися вперед, попри невизначені ризики, оскільки кожна нова система допомагає створювати більш здатних наступників, дозволяючи конкуренту вирватися вперед, якщо будь-яка з компаній уповільниться без спільної угоди.
«Це особливо справедливо, оскільки досягнення в інтелекті накопичуються; кожна нова система полегшує навчання та розгортання наступної, більш досконалої системи», — сказав він. «Без якогось механізму координації відступ означає лише те, що інший отримає перевагу.
У серпні OpenAI призупинила внутрішню роботу над Astra, якій бракувало сильніших запобіжних заходів, через занепокоєння кібербезпекою. Однак і OpenAI, і Anthropic послабили свої зобов’язання щодо безпеки у лютому, причому головний науковий директор Anthropic Джаред Каплан стверджував, що уповільнення розвитку незалежно має менше сенсу, поки конкуренти продовжують просуватися.
Дебати щодо уповільнення розвитку ШІ спалахнули цього тижня після того, як колишній інженер Anthropic Джейкоб Коксон публічно оголосив про свою відставку, посилаючись на занепокоєння щодо ризиків, які подальший розвиток ШІ становить для людства.
«Люди, які створюють ШІ, щиро вірять, що він може вбити нас усіх до кінця десятиліття», — сказав Коксон у X, зазначивши, що це не «маркетинговий трюк».
«Якщо вже на те пішло, багато керівників і старших дослідників у пресі формулюватимуть свої слова так, щоб звучати розважливо, — але я чую, як ті самі люди приватно висловлюють страх. Жодна інша людська діяльність не становить такої небезпеки», — написав він.
Однак Саб'єн сказав, що дослідники можуть досягти небагато, пішовши, якщо хтось інший просто займе їхнє місце.
«Якщо достатньо з них усвідомлять спільно, що всім їм слід зупинитися, тоді вони зможуть подолати бар'єр координації та зупинитися разом, а не просто бути заміненими наступною трохи менш обережною людиною», — сказав він.
