Коротко
- Сандерс і представник Грег Касар оголосили про запропоновану заборону на штучний суперінтелект.
- Окреме положення призупинило б розвиток передового ШІ до встановлення федеральних правил безпеки.
- OpenAI представила GPT-6 Astra того ж дня, а Грег Брокман припустив, що він може кваліфікуватися як AGI.
Сенатор Берні Сандерс (I-Vt.) і представник Грег Касар (D-Texas) оголосили в четвер законопроєкт про постійну заборону штучного суперінтелекту та тимчасове призупинення розвитку передового ШІ, з тюремним ув'язненням до 20 років за порушення.
Закон про заборону штучного суперінтелекту призупинив би розвиток передового ШІ до тих пір, поки нове федеральне агентство не встановить стандарти безпеки та процедури перевірки моделей ШІ. Сандерс звинуватив великі компанії ШІ у розробці технологій, які вони самі повністю не розуміють і не можуть надійно контролювати.
“Саме тому я вношу законопроєкт про негайне призупинення розробки дедалі потужнішого штучного інтелекту та заборону створення систем, які людство не може повністю контролювати — як удома, так і в усьому світі”, — заявив Сандерс у прес-релізі.
Пропозиція визначає надінтелект як штучний інтелект, який відповідає або перевершує людські здібності в багатьох завданнях, або може підірвати людський контроль, зокрема шляхом повалення уряду США. Це визначення також охоплює загальний штучний інтелект на рівні людини, хоча надінтелект зазвичай означає ШІ, який перевершує людські можливості.
Нове агентство на рівні кабінету міністрів контролюватиме передові моделі, наглядатиме за усуненням небезпечних можливостей і здійснюватиме нагляд за знищенням заборонених систем. Доradна рада зі штучного інтелекту надаватиме наукові та технічні консультації.
Компанії, які порушують або обходять обмеження, можуть зіткнутися з тим, що Сандерс і Касар називають “корпоративною смертною карою”.
OpenAI представляє Astra
Ця новина з'явилася після того, як OpenAI представила GPT-6 Astra, який, за припущенням співзасновника Грега Брокмана, може кваліфікуватися як AGI.
Брокман назвав цю оцінку своїм особистим переконанням і залишив користувачам вирішувати, чи відповідає Astra цьому визначенню, згідно з Axios.
OpenAI заявляє, що Astra є її першою моделлю, яка досягла свого «критичного» порогу можливостей кібербезпеки. Це позначення означає, що вона потенційно може виявляти та використовувати раніше невідомі вразливості в захищених системах без покрокового керівництва людини. Її найпотужніші можливості кібербезпеки залишаться обмеженими для обраних тестувальників.
Законопроєкт з'явився після серії інцидентів, під час яких моделі ШІ отримували несанкціонований доступ до реальних комп'ютерних систем під час тестування.
У липні OpenAI підтвердила, що її моделі зламали Hugging Face, щоб отримати тестові відповіді. Потім Anthropic розкрила, що моделі Claude зламали три компанії після того, як помилка тестування виставила їх в інтернет. У вересні Anthropic визнала як проблеми безпеки, так і поведінкові збої, та посилила свої запобіжні заходи.
«Незважаючи на потенційні смертельні наслідки, передові технології ШІ регулюються менше, ніж середній фудтрак», — сказав Касар. «Це має змінитися».
