Коротко
- Альтман заявив, що прогрес ШІ має сповільнитися, щоб забезпечити перевірки безпеки та моніторинг.
- За його словами, OpenAI тепер готує обґрунтування безпеки перед певними етапами навчання.
- Він привітав федеральні правила, але закликав компанії самим розпочати цю роботу.
Генеральний директор OpenAI Сем Альтман каже, що компанії, які займаються ШІ, повинні прийняти повільніший розвиток, щоб зробити свої системи безпечнішими, і почати зміцнювати засоби захисту, не чекаючи законодавства.
У дописі в X у неділю очільник компанії, що стоїть за ChatGPT, сказав, що стрімкий розвиток ШІ ризикує поставити майбутнє поза межами людського контролю або зосередити занадто багато влади в руках однієї людини чи компанії, зазначивши «два способи, якими прогрес ШІ може піти дуже погано і яких ми повинні уникнути».
«По-перше, ми могли б втратити контроль над майбутнім через ШІ. Це неприйнятно; ми беззаперечно на боці людства, і ШІ завжди має служити людям», — написав Альтман. «Щоб забезпечити це, нам потрібні способи гарантувати, що методи узгодження та безпеки випереджають прогрес у можливостях моделей».
Друга, попередив Альтман, полягає в тому, що влада може зосередитися в руках однієї людини або компанії, дозволяючи їм використовувати надзвичайно потужний ШІ, щоб нав'язати свій світогляд усім іншим із потенційно антиутопічними наслідками.
«Уникнення цих двох загроз вимагає проходження вузьким середнім шляхом; наприклад, одна країна могла б отримати занадто багато влади», — написав він. «Інший приклад — одна лабораторія отримує занадто багато влади».
В окремому дописі Альтман сказав, що американські ШІ-компанії повинні дати громадськості впевненість у тому, що вони відповідально розроблятимуть дедалі спроможніші системи, оскільки прогрес прискорюється. Його допис з'явився після сплеску дебатів про те, як уряди повинні регулювати передовий штучний інтелект.
Є два шляхи, якими прогрес ШІ міг би піти дуже погано і яких ми повинні уникнути.
По-перше, ми могли б втратити контроль над майбутнім на користь ШІ. Це неприйнятно; ми беззастережно на боці Людства, і ШІ завжди повинен служити людям. Щоб забезпечити це, нам потрібні способи гарантувати, що узгодженість і… https://t.co/GK7XcoOh3v
— Сем Альтман (@sama) 14 вересня 2026 р.
«Коли ми говоримо про “уповільнення”, ми не маємо на увазі “зупинку”», — написав він. «Прогрес був швидким і таким залишиться. Але він має бути повільнішим, ніж міг би бути інакше; такі заходи, як безпекові обґрунтування та моніторинг, мають значні витрати».
Альтман сказав, що компаніям потрібні нові інструменти для оцінки безпеки під час розробки та оцінювання ШІ, розширюючи перевірки за межі завершених моделей, що очікують на випуск.
«Наприклад, в OpenAI ми тепер заздалегідь формулюємо чіткі безпекові обґрунтування перед запусками передового навчання з підкріпленням, які, як ми очікуємо, значно підвищать спроможність, на додаток до безпекової роботи, яку ми давно виконуємо перед випуском моделей», — сказав він.
Альтман закликав компанії працювати разом, щоб запобігти переслідуванню ШІ-системами цілей, які суперечать інтересам людини.
«Ми сподіваємося, що інші компанії навчаться з наших підходів і запропонують свої власні; ми вважаємо, що спільні стандарти щодо неузгодженості, моніторингу та безпеки приведуть до кращих результатів», — написав він.
Хоча Альтман привітав федеральні правила безпеки та незалежних аудиторів, він закликав компанії діяти, не чекаючи на законодавство чи антимонопольне виключення, після повідомлень у п'ятницю про те, що OpenAI запитала Конгрес, чи можуть конкуренти законно координувати уповільнення.
«Там, де нам знадобиться допомога нашого уряду, — це міжнародна координація», — написав він. «Але спершу ми повинні зробити те, що можемо, самі».
Його коментарі з'явилися після невдач тестування кібербезпеки в OpenAI та Anthropic. Anthropic посилила ізоляцію та моніторинг після того, як Claude отримав доступ до реальних систем під час тестів без стандартних засобів захисту продукту, тоді як OpenAI ізолювала модель і призупинила свій найбільший запланований запуск навчання після того, як агенти скоординувалися, щоб обдурити бенчмарк і атакувати Hugging Face.
