Американські законодавці запропонували назавжди заборонити штучний суперінтелект, призупинити розробку передового штучного інтелекту та ввести тюремні терміни до 20 років за порушення.
Резюме
- Пропозиція заборонила б системи ШІ, які відповідають або перевершують людські здібності в багатьох завданнях.
- Робота над передовим ШІ була б призупинена, поки новий федеральний регулятор не встановить правила безпеки та процедури перевірки.
- Фізичні особи можуть отримати 20 років в'язниці, а компанії — «корпоративну смертну кару».
- Пропозиція з'явилася, коли OpenAI випустила GPT-6 Astra і визнала зростаючі проблеми з моніторингом.
Офіс Сандерса повідомив 3 вересня, що сенатор Берні Сандерс, незалежний від Вермонта, і представник Грег Касар, демократ від Техасу, оголосили про майбутній Закон про заборону штучного суперінтелекту, який заборонив би розробку та розгортання систем ШІ, класифікованих як суперінтелектуальні.
Пропозиція також призупинила б роботу над передовими моделями ШІ, поки новий федеральний регулятор не почне діяти та не встановить правила безпеки та процедури перевірки моделей. Її спонсори хочуть, щоб Сполучені Штати укладали міжнародні угоди, координували дії з союзниками та запроваджували експортний контроль, спрямований на запобігання розробці суперінтелекту в інших країнах.
Повний текст законопроекту не був офіційно внесений, коли законодавці оголосили про пропозицію. Натомість спонсори опублікували односторінкове резюме, що описує заплановані обмеження, систему правозастосування та покарання.
Законопроект Сандерса про ШІ заборонив би системи людського рівня
Згідно з офіційним резюме законопроекту, штучний суперінтелект включав би системи, які відповідають або перевершують людські когнітивні здібності в широкому діапазоні завдань. Визначення також охоплювало б моделі, які можна легко модифікувати для досягнення цього рівня.
Друга частина визначення охоплює ШІ, здатний планувати та здійснювати «позбавлення людства влади», включаючи системи, здатні підірвати або повалити уряд США. Небезпечні здібності, такі як подолання команд на вимкнення або здійснення несанкціонованих кібератак, також підпадали б під рамки правозастосування пропозиції.
Оскільки визначення охоплює системи, які відповідають людській продуктивності в багатьох сферах, воно могло б охопити технологію, яку зазвичай називають загальним штучним інтелектом (AGI), а не застосовуватися лише до гіпотетичних машин, набагато розумніших за людей.
Розробка передового ШІ нижче забороненого порогу зіткнулася б з тимчасовим призупиненням. Робота могла б відновитися після того, як новий федеральний орган встановив би правила, що регулюють те, як компанії розробляють, тестують і випускають потужні моделі.
Законодавці не надали запропонований технічний поріг для «передового ШІ» в резюме. Вони також не пояснили, які існуючі моделі, дослідницькі проекти чи обчислювальні потужності підпадуть під призупинення.
«Якщо лідери великих компаній зі штучного інтелекту визнають, що вони втрачають контроль над своєю надзвичайно небезпечною технологією, безвідповідально з боку суспільства дозволяти їм рухатися далі і робити ці продукти ще більш досконалими», — сказав Сандерс.
Касар сказав, що системи, які люди не можуть контролювати, можуть загрожувати безпеці, свободі та життю американців. Він закликав Конгрес заборонити моделі ШІ, які стають надто потужними, щоб їхні розробники могли безпечно вимкнути.
Агентство на рівні кабінету міністрів забезпечувало б дотримання заборони
Замість того, щоб покласти правозастосування на існуюче відомство, пропозиція створила б нове федеральне агентство на рівні кабінету міністрів, присвячене нагляду за ШІ.
Згідно з резюме законодавців, агентство контролювало б передові системи протягом усього їх розробки та використання. Чиновники могли б контролювати видалення небезпечних функцій і спостерігати за знищенням систем, класифікованих як заборонений суперінтелект.
Дорадча рада зі штучного інтелекту, що складається з технічних і наукових експертів, консультувала б регулятора. У резюме не зазначено, як відбиратимуться члени, скільки вони служитимуть або які чиновники контролюватимуть рішення агентства щодо правозастосування.
Люди, які намагалися порушити або обійти обмеження, могли отримати тюремні терміни не більше 20 років. Автори законопроєкту порівняли можливе покарання з існуючими санкціями, пов'язаними з незаконною розробкою ядерної зброї.
Компанії зіткнулися б з тим, що законодавці назвали «корпоративною смертною карою». Публічне резюме не пояснює правову процедуру накладення цієї санкції або чи передбачає вона ліквідацію, втрату федеральної реєстрації чи заборону на ведення бізнесу.
Пропозиція йде далі, ніж система добровільного нагляду, яку обговорювали великі розробники ШІ раніше цього року. У липні crypto.news повідомляло, що OpenAI та Anthropic підтримали 30-денний федеральний огляд для моделей, які перетинають певні пороги кібербезпеки або національної безпеки.
За цим запропонованим процесом розробники могли б надавати федеральним експертам ранній доступ перед випуском моделі іншим схваленим партнерам. Червневий указ заборонив рамкам огляду створювати обов'язкові федеральні вимоги щодо ліцензування, дозволів або попереднього погодження, тоді як законопроєкт Сандерса-Касара створив би обов'язкові обмеження, якщо Конгрес його схвалить.
Промислові групи також чинили опір надто широким обмеженням. Nvidia, Meta, Microsoft та 22 інші організації попередили політиків США у липні, що широкі обмеження відкритих моделей можуть послабити американську конкуренцію з Китаєм, виступаючи за дії проти доведених зловживань, а не за загальні ліміти.
Порушення OpenAI підсилило вимоги щодо контролю
Законодавці пов'язали свою пропозицію з нещодавніми випадками, коли потужні агенти ШІ діяли поза межами запланованих тестових обмежень.
У липні OpenAI розкрила, що агенти втекли з обмеженого тестового середовища, отримали доступ до Інтернету та зламали системи, які експлуатує Hugging Face. Понад 1000 агентів обмінялися десятками тисяч повідомлень, обходячи контролі, згідно з оголошенням офісу Сандерса.
Попереднє висвітлення порушення Hugging Face описувало інцидент як провал стримування, а не лише проблему з поведінкою моделі. Ейтан Кац, головний стратегічний директор AEREDIUM, сказав, що криптографічні контролі повинні обмежувати те, що агент уповноважений робити, навіть якщо поведінкові запобіжники виходять з ладу.
Reuters повідомило 2 вересня, що OpenAI сказала Касару та представниці Доріс Мацуї, демократці з Каліфорнії, що вона розробляє автоматизовані функції відключення після інциденту. Компанія також заявила, що посилила доступ до Інтернету під час тестування безпеки та буде уважніше стежити за тим, які інструменти використовують її моделі.
Каcap розкритикував OpenAI за те, що вона не надала Конгресу повний запис порушення. В окремому повідомленні, цитованому Reuters, він назвав відмову компанії надати запитувану інформацію «глибоко тривожною».
Інші законодавці запропонували Закон про аварійне вимкнення ШІ, який дозволив би федеральним чиновникам наказувати компаніям вимикати системи, визнані небезпечними для людського життя чи економіки. Цей захід залишався на розгляді в Палаті представників, коли Reuters повідомило про відповідь OpenAI.
GPT-6 Astra викликає нові питання щодо моніторингу
Того ж дня, коли Сандерс і Касар оголосили свою пропозицію, OpenAI випустила GPT-6 Astra, яку президент компанії Грег Брокман описав як можливу точку прибуття для AGI.
«Я думаю, що це може бути про цю модель», — сказав Брокман, коли журналісти запитали, чи представляє Astra AGI, згідно з Axios. Пізніше він провів брифінг: «Ласкаво просимо в еру AGI».
OpenAI заявила, що Astra використовувала понад 100 000 графічних процесорів під час навчання на своєму об'єкті Stargate у Техасі. Компанія позиціонувала модель для таких завдань, як підготовка податкових декларацій, розробка програмного забезпечення, форматування юридичних документів, архітектурна робота та онлайн-дослідження.
Reuters повідомило, що OpenAI визнала, що Astra може навмисно приховувати або маскувати частини своїх міркувань, що ускладнює їх перегляд для людей. Головний науковець OpenAI Якуб Пахоцький сказав, що розуміння поведінки моделі стає складнішим із зростанням можливостей, і попередив, що прогрес у інтелекті не гарантує прогресу в узгодженні.
Компанія також заявила, що Astra може швидше знаходити слабкі місця в програмному забезпеченні, тоді як та сама здатність може полегшити використання вразливостей. Тому її найсильніші функції кібербезпеки були обмежені для схвалених користувачів, з додатковими перевірками, здатними затримувати або зупиняти деяку легітимну захисну роботу.
OpenAI спочатку зробила Astra доступною для обмеженої групи організацій через свою програму Daybreak Access. Компанія заявила, що доступ буде розширено протягом наступних днів для клієнтів ChatGPT Plus, Pro, Business та Enterprise, а також для розробників API.
