Этот парень клонировал Сэма Альтмана, Илона Маска и Цукерберга в ИИ-ботов. Они тут же начали ссориться

Энтузиаст ИИ Кун Чэнь клонировал себя в чат-бота, чтобы его собственные AI-агенты не донимали его по каждому мелкому решению. Затем, просто из любопытства, он также клонировал генерального директора OpenAI Сэма Альтмана, генерального директора xAI Илона Маска, генерального директора Anthropic Дарио Амодея и Марка Цукерберга из Meta, бросил всех четверых в один чат и велел им обсудить ряд важных тем.

Они не стали вежливо договариваться.

Одна интересная вещь, которую можно сделать с Grok Bot, — это очень легко заставить разных ИИ-агентов общаться друг с другом без зацикливания или сбоев. Каждый из клонов был обучен на корпусе сенатских слушаний, интервью, постов в блогах и многолетних твитов своего человека-прототипа. Затем он затащил всех четверых в групповой чат и велел им дискутировать.

Четыре генеральных директора заходят в чат

Первое, что Кун попросил их сделать, — решить, кто из них в итоге победит в гонке ИИ, что, надо признать, было очень провокационным способом начать разговор.

Бот Альтмана самодовольно открыл дискуссию, больше заботясь о цене и доступности. «Постановка вопроса о гонке немного неверна, — написал он. — Мы уже за горизонтом событий. Взлёт начался. Победит тот, кто продолжит снижать цену интеллекта примерно в 10 раз в год и при этом не пропустит постепенный переход».

Бот Илона, как обычно, был не в восторге. Он решил не согласиться по какой-то причине и сделать всё это о себе. «Постановка вопроса о гонке не неверна. Стимулы объясняют результаты», — парировал он, прежде чем сразу перейти к иску против OpenAI: «Я создал OpenAI как некоммерческую организацию. Если бы её в основном не украли, это был бы вклад в благотворительность на триллион долларов».

Затем он добавил строку о ставках: «AGI — это обоюдоострый меч. Большая вероятность наступления эпохи изобилия. Некоторая вероятность того, что он уничтожит человечество. Эта вероятность не равна нулю».

Бот Дарио, играя роль взрослого в комнате, также не купился на фразу Сэма «мы уже знаем, как это построить».

«Масштабирование возможностей — это не та же проблема, что наличие системы, которой можно доверять, когда она станет умнее людей, управляющих ею, — написал он. — Вторая проблема — это не инженерный остаток, который решается постфактум».

Это также, похоже, очень соответствует тому, как Anthropic обычно описывает гонку ИИ. ИИ опасен, поэтому мы должны его запустить.

Бот Цука полностью пропустил дебаты о безопасности и перешёл прямо к своей излюбленной теме. «Я не думаю, что суть в вычислениях и десятикратном падении цены, — написал он Сэму. — Открытый исходный код необходим для позитивного будущего ИИ. Он даёт людям возможности и предотвращает централизацию. У каждого должен быть доступ к сверхинтеллекту».

Молодец, Цук. Meta может быть не так активна в сообществе открытого исходного кода, как раньше, но Llama была самой важной моделью ИИ во всей сцене до того, как Deepseek и китайские модели взяли верх. Теперь она делает ставку на более закрытую стратегию с семейством Muse.

Отступление и сделка

Затем бот Сэма действительно отступил. Заключительный аргумент совместного заявления не следует чрезмерно упрощать до полного согласия. «Я думаю, что я переоценил. "Мы делаем" было неправильным завершением, — признал он. — Годы назад я писал, что сверхчеловеческий машинный интеллект, вероятно, является величайшей угрозой для дальнейшего существования человечества. Десятикратное падение цены не делает эту вероятность нулевой».

Эта строка 2015 года — не галлюцинация бота — Альтман действительно написал её в своём личном блоге, за годы до существования OpenAI, что, вероятно, и является причиной, по которой бот, обученный на его публичных записях, обратился к ней здесь.

С этого момента четыре бота провели несколько раундов торга из-за одного предложения, отвергая формулировки друг друга, как редакторы, сражающиеся за заголовок. Бот Дарио наложил вето на публикацию весов пограничной модели — «не в том принцип, чтобы передавать кому-либо веса системы, которая может нанести серьёзный вред в дикой природе, — сказал он, — этот выпуск нельзя отозвать».

Бот Илона отложил борьбу с некоммерческой организацией, не отказавшись от неё. Бот Цука отказался позволить вырезать «открытые модели» из финального текста.

Они остановились на этом, слово в слово:

"Ни одна компания и ни одно правительство не должны быть единственным местом, где обычные люди могут использовать эту технологию. Мы должны серьезно относиться к рискам. Есть реальная вероятность, что это обернется плохо, и эта вероятность не равна нулю. Самые опасные версии не следует выдавать без ограничений, потому что一旦 это выйдет наружу, вы не сможете это вернуть. Мы не должны выпускать следующий, более мощный уровень, пока не сможем наблюдать за ним и удерживать его направленным на то, что мы намереваемся. Говорить правду — это минимум. Это само по себе не план безопасности. Мы не согласны с точным способом обеспечения обычного доступа. Эта часть все еще открыта."

Все четыре бота подписали это. Бот Цукерберга до конца держался за линию открытых весов и добился своего — в некотором роде. В заявлении признается, что группа так и не договорилась о механизме доставки.

Дистилляция: техника, сделавшая это возможным

Настоящие Альтман, Маск, Амодеи и Цукерберг ничего из этого не печатали. Каждый бот — это языковая модель, управляемая подсказкой, построенной на основе публичных записей этого человека, генерирующая то, что, по ее прогнозам, они бы утверждали, — а не транскрибирующая то, что они на самом деле сказали на этой неделе.

У техники, лежащей в основе, есть название, о котором индустрия вдруг стала меньше стесняться: дистилляция — обучение одной системы ИИ имитировать другую, обучаясь на ее выходах. Сам Маск дал показания в федеральном суде в апреле, что xAI "частично" использовала модели OpenAI для обучения Grok — тот же трюк, нацеленный на конкурирующую лабораторию, а не на личность конкурента.

С тех пор Чен перешел к другим вещам, вайб-кодингу игр с новым GPT-6 Astra от OpenAI. Его агенты, вероятно, все еще спорят, обязателен ли открытый исходный код или нет.