OpenAI та Anthropic співпрацюють у Вашингтоні, щоб сформувати федеральну систему перевірки для передових моделей ШІ, незважаючи на конкуренцію за клієнтів, фінансування та технологічне лідерство.
Підсумок
- OpenAI та Anthropic підтримують до 30 днів федерального доступу перед випуском деяких передових моделей.
- Запропонований процес застосовуватиметься до всієї галузі, включаючи конкурентів, таких як Meta та xAI.
- Федеральні агентства повинні розробити рамки до 1 серпня згідно з червневим указом.
- Nvidia, Meta та Microsoft окремо попередили проти широкомасштабного контролю над моделями ШІ з відкритою вагою.
OpenAI та Anthropic шукають спільні стандарти перевірки
OpenAI та Anthropic закликають адміністрацію Трампа прийняти послідовний процес перевірки для моделей ШІ з розширеними можливостями кібербезпеки або національної безпеки, згідно з The Information.
Їхня співпраця відбувається перед дедлайном 1 серпня, коли федеральні агентства мають визначити, які системи кваліфікуються як «охоплені передові моделі». Ці моделі можуть бути надані уряду для оцінки на строк до 30 днів перед випуском для інших довірених партнерів.
За повідомленнями, обидві компанії хочуть, щоб стандарти застосовувалися до всієї галузі ШІ, а не лише до розробників, які вже співпрацюють з Вашингтоном. Це може підвести конкуруючі компанії, включаючи Meta та xAI Ілона Маска, під ту саму рамку перевірки, якщо їхні моделі перетнуть поріг можливостей.
Ці обговорення є рідкісним випадком узгодження політики між OpenAI та Anthropic. Обидві компанії продають системи ШІ загального призначення та конкурують за корпоративні контракти, дослідників, обчислювальні потужності та інвестиції.
Жодна з компаній публічно не оприлюднила повні умови, які вона хоче включити в остаточну рамку.
Указ Трампа встановлює добровільний 30-денний процес
Президент Дональд Трамп наказав федеральним агентствам створити класифікований процес бенчмаркінгу через Виконавчий указ 14409 від 2 червня.
Указ доручає Агентству національної безпеки, Агентству з кібербезпеки та захисту інфраструктури, Міністерству фінансів та іншим федеральним органам визначати, коли модель ШІ має достатньо потужні можливості, щоб вимагати додаткової перевірки.
Розробники, які беруть участь у рамці, зможуть запитати уряд, чи відповідає модель порогу охопленої передової моделі. Потім вони можуть надати федеральним оцінювачам доступ на строк до 30 днів перед тим, як зробити систему доступною для інших схвалених партнерів.
Указ вимагає захисту інтелектуальної власності, конфіденційної інформації, кібербезпеки та від внутрішніх загроз під час оцінки.
Однак у ньому прямо зазначено, що процес не може створювати обов'язкове федеральне ліцензування, попереднє схвалення або дозвільні правила для розробки чи випуску моделей ШІ. Тому компанії братимуть участь добровільно, якщо окремі закони або державні повноваження не застосовуються.
Американські розробники ШІ шукають ясності перед запуском
Спільна рамка може дати американським розробникам чіткіші стандарти для визначення, коли очікується урядове тестування. Залишаються питання щодо того, які технічні бенчмарки спровокують перевірку, які агентства тестуватимуть кожну систему та як чиновники схвалюватимуть партнерів з раннім доступом.
Ці невизначеності вже вплинули на нещодавні запуски. OpenAI та Anthropic надавали державним чиновникам ранній доступ до передових моделей перед ширшим розповсюдженням, але зовнішні дослідники мали обмежену видимість оцінок.
У липневому звіті виявлено, що агентства, тести та вимоги до схвалення, задіяні в цих перевірках, залишаються незрозумілими. Відсутність опублікованого процесу може ускладнити планування випуску для розробників і залишити менші компанії ШІ в невизначеності, чи застосовуються до них ті самі стандарти.
Застосування одного порогу на основі можливостей до OpenAI, Anthropic, Meta, xAI та інших розробників може зменшити частину цієї невизначеності. Це також може обмежити занепокоєння, що Вашингтон надає окремим компаніям різне ставлення.
Дебати щодо ШІ з відкритою вагою розділяють індустрію
Заклик OpenAI та Anthropic до спільного процесу перегляду з'являється в той час, коли інші технологічні компанії попереджають Вашингтон проти широких обмежень на моделі ШІ з відкритою вагою.
Як повідомляв crypto.news минулого тижня, Nvidia, Meta та Microsoft приєдналися до 22 інших організацій у відкритому листі, стверджуючи, що широкі обмеження можуть послабити лідерство США, оскільки конкуренція з Китаєм посилюється. IBM, Palantir, Mistral, Hugging Face, Mozilla, Andreessen Horowitz та Linux Foundation також підписали лист.
Група закликала до цілеспрямованих правових та комерційних заходів проти зловживань замість обмежень, що охоплюють технології з легітимними дослідницькими та бізнес-застосуваннями.
Моделі з відкритою вагою дозволяють компаніям, дослідникам та урядам завантажувати програмне забезпечення, модифікувати його та запускати на власній інфраструктурі. Прихильники кажуть, що це дає користувачам більший контроль над своїми даними, безпекою та обчислювальними системами, одночасно знижуючи витрати на розгортання.
Підписанти не розглядали відкриті та закриті моделі як взаємовиключні. Натомість вони стверджували, що обидва підходи необхідні для підтримки конкуренції та надання розробникам різних способів створення та розгортання систем ШІ.
Генеральний директор Nvidia Дженсен Хуанг поділився листом у своєму першому дописі на X та захистив роль обох моделей розробки.
«Світ потребує як передових закритих моделей, так і передових відкритих моделей».
Ілон Маск також підтримав лист у відповіді Хуангу, хоча його компанія зі ШІ xAI не була вказана серед 25 зареєстрованих підписантів.
Ці дві ініціативи стосуються різних частин політичних дебатів. OpenAI та Anthropic прагнуть до послідовних федеральних оцінок для моделей, які перевищують поріг національної безпеки, тоді як відкритий лист виступає проти обмежень, заснованих головним чином на тому, чи робить модель свої ваги доступними.
Федеральні агентства тепер мають до 1 серпня визначити поріг для передових моделей та окреслити добровільний процес перегляду. Остаточна структура покаже, чи зосереджується Вашингтон на вимірюваних можливостях, чи застосовує ширші умови, засновані на тому, як розповсюджуються моделі ШІ.
