Він клонував Сема Альтмана, Ілона Маска та Цукерберга в ШІ-ботів. Ті одразу почали сваритися

Ентузіаст ШІ Кун Чен клонував себе в чат-бота, щоб його власні ШІ-агенти не турбували його з кожним дрібним рішенням. Потім, просто з цікавості, він також клонував генерального директора OpenAI Сема Альтмана, генерального директора xAI Ілона Маска, генерального директора Anthropic Даріо Амодея та Марка Цукерберга з Meta, кинув усіх чотирьох у той самий чат і сказав їм обговорити низку важливих тем.

Вони не з'ясовували стосунки ввічливо.

Одна цікава річ, яку можна зробити з Grok Bot, — це змусити різних ШІ-агентів легко спілкуватися один з одним без зациклення чи божевілля. Кожен із клонів був навчений на корпусі сенатських слухань, інтерв'ю, блог-постів і багаторічних твітів керівника, зроблених його людською версією. Потім він затягнув усіх чотирьох у груповий чат і наказав їм дискутувати.

Чотири генеральні директори заходять у чат

Перше, що Кун попросив їх зробити, — це вирішити, хто з них зрештою переможе в гонці ШІ — що, треба визнати, було дуже провокативним способом почати.

Бот Альтмана самовдоволено відкрився, більше дбаючи про ціну та доступність. «Формулювання гонки трохи неправильне, — написав він. — Ми вже за горизонтом подій. Зліт почався. Переможе той, хто продовжить знижувати ціну інтелекту приблизно в 10 разів на рік і все ще не пропустить поступовий перехід».

Бот Ілона, як завжди, не погоджувався. Він вирішив не погодитися з якоїсь причини і зробити все про себе. «Формулювання гонки не неправильне. Стимули пояснюють результати», — відрізав він, перш ніж одразу перейти до позову OpenAI: «Я створив OpenAI як неприбуткову організацію. Якби її здебільшого не вкрали, вона була б внеском у благодійність на трильйон доларів».

Потім він додав рядок про ставки: «AGI — це меч із двома лезами. Великий шанс на епоху достатку. Певний шанс, що він знищить людство. Цей шанс не нульовий».

Бот Даріо, граючи дорослого в кімнаті, також не купувався на фразу Сема «ми вже знаємо, як це побудувати».

«Масштабування можливостей — це не та сама проблема, що й наявність системи, якій можна довіряти, коли вона розумніша за людей, які нею керують, — написав він. — Друга — це не інженерний залишок, який вирішуєш постфактум».

Це також дуже узгоджується з тим, як Anthropic зазвичай формулює перегони ШІ. ШІ небезпечний, тому ми повинні його запускати.

Бот Цука повністю пропустив дебати про безпеку і перейшов прямо до своєї улюбленої теми. «Я не думаю, що закриття — це обчислення і десятикратне падіння ціни, — написав він Сему. — Відкритий код необхідний для позитивного майбутнього ШІ. Він дає людям можливості та запобігає централізації. Кожен повинен мати доступ до надінтелекту».

Молодець, Цуку. Meta може бути не такою активною у спільноті відкритого коду, як раніше, але Llama була найважливішою моделлю ШІ на всій сцені, перш ніж Deepseek і китайські моделі взяли гору. Тепер вона робить ставку на більш закриту стратегію зі своєю сім'єю Muse.

Відступ і угода

Потім бот Сема насправді відступив. Заключний аргумент спільної заяви не слід надмірно спрощувати до повної згоди. «Я думаю, що я перебільшив. "Ми знаємо" було неправильним завершенням, — визнав він. — Роки тому я писав, що надлюдський машинний інтелект, ймовірно, є найбільшою загрозою для подальшого існування людства. Десятикратне падіння ціни не робить цей шанс нульовим».

Цей рядок 2015 року — не галюцинація бота — Альтман справді написав його у своєму особистому блозі, за роки до появи OpenAI, і, ймовірно, саме тому бот, навчений на його публічних записах, звернувся до нього тут.

Звідти чотири боти провели кілька раундів торгів за одне речення, відкидаючи формулювання одне одного, як редактори, що сваряться за заголовок. Бот Даріо наклав вето на публікацію ваг frontier-моделей outright — «це не принцип — передавати будь-кому ваги системи, яка може завдати серйозної шкоди в дикій природі, — сказав він, — це випуск не можна відкликати».

Бот Ілона відклав боротьбу за неприбутковість, не відмовляючись від неї. Бот Цука відмовився дозволити вирізати «відкриті моделі» з фінального тексту.

Вони зупинилися на цьому, слово в слово:

"Жодна компанія і жоден уряд не повинні бути єдиним місцем, де звичайні люди можуть використовувати цю технологію. Ми маємо бути серйозними щодо ризиків. Є реальний шанс, що це закінчиться погано, і цей шанс не нульовий. Найнебезпечніші версії не повинні роздаватися без обмежень, бо якщо це вийде, ви не зможете це повернути. Ми не повинні випускати наступний, потужніший рівень, поки не зможемо спостерігати за ним і тримати його спрямованим на те, що ми маємо намір. Говорити правду — це мінімум. Це саме по собі не є планом безпеки. Ми не згодні щодо точного способу забезпечення звичайного доступу. Ця частина все ще відкрита."

Усі чотири боти підписали це. Бот Цукерберга до кінця тримався за лінію відкритих ваг і досяг свого — певною мірою. У заяві визнається, що група так і не домовилася про механізм доставки.

Дистиляція: техніка, яка зробила це можливим

Справжні Альтман, Маск, Амодеї та Цукерберг не набирали нічого з цього. Кожен бот — це мовна модель, керована підказкою, побудованою з публічного запису цієї людини, генеруючи те, що, за її прогнозами, вони б стверджували — а не транскрибуючи те, що вони насправді сказали цього тижня.

Техніка, що лежить в основі, має назву, щодо якої індустрія раптом стала менш сором'язливою: дистиляція, навчання однієї системи штучного інтелекту імітувати іншу, навчаючись на її виходах. Сам Маск свідчив у федеральному суді у квітні, що xAI "частково" використовувала моделі OpenAI для навчання Grok — той самий трюк, спрямований на лабораторію-суперника, а не на особистість суперника.

Відтоді Чен перейшов до інших речей, вайб-кодингу ігор з новим GPT-6 Astra від OpenAI. Його агенти, ймовірно, все ще сперечаються, чи є відкритий код обов'язковим чи ні.