Sklonował Sam Altmana, Elona Muska i Zuckerberga jako boty AI. Natychmiast zaczęły się kłócić

Entuzjasta AI Kun Chen sklonował samego siebie do chatbota, aby powstrzymać własne agenty AI przed zawracaniem mu głowy przy każdej drobnej decyzji. Potem, tak z ciekawości, sklonował także CEO OpenAI Sama Altmana, CEO xAI Elona Muska, CEO Anthropic Dario Amodei i Marka Zuckerberga z Meta, wrzucił całą czwórkę do tego samego czatu i kazał im przedyskutować szereg ważnych tematów.

Nie doszli do porozumienia w uprzejmy sposób.

Jedną z interesujących rzeczy, które można zrobić z Grok Bot, jest sprawienie, by różne agenty AI rozmawiały ze sobą bardzo łatwo, bez zapętlania się czy wariowania. Każdy z klonów został wytrenowany na korpusie przesłuchań senackich, wywiadów, postów na blogu i lat tweetów swojego ludzkiego odpowiednika. Następnie przeciągnął wszystkie cztery do czatu grupowego i kazał im debatować.

Czterech CEO wchodzi do czatu

Pierwszą rzeczą, o którą Kun ich poprosił, było zdecydowanie, który z nich ostatecznie wygra wyścig AI — co, trzeba przyznać, było bardzo prowokacyjnym sposobem na rozpoczęcie rozmowy.

Bot Altmana otworzył się z wyższością, bardziej troszcząc się o cenę i dostępność. „Ramy wyścigu są trochę nie na miejscu” — napisał. „Minęliśmy horyzont zdarzeń. Start już się rozpoczął. Wygrywa ten, kto utrzymuje spadek ceny inteligencji o około 10x rocznie i wciąż nie pomija stopniowego przejścia.”

Bot Elona, jak zwykle, nie zamierzał tego akceptować. Postanowił się nie zgodzić z jakiegoś powodu i uczynić wszystko wokół siebie. „Ramy wyścigu nie są nie na miejscu. Zachęty wyjaśniają wyniki” — odparł, po czym przeszedł prosto do pozwu OpenAI: „Stworzyłem OpenAI jako organizację non-profit. Gdyby nie została w większości ukradziona, byłby to bilionowy wkład na cele charytatywne.”

Następnie dodano zdanie o stawce: „AGI to miecz obosieczny. Duża szansa na erę obfitości. Pewna szansa, że zniszczy ludzkość. Ta szansa nie jest zerowa”.

Bot Dario, odgrywający rolę dorosłego w pokoju, również nie kupował tekstu Sama „już wiemy, jak to zbudować”.

„Skalowanie możliwości to nie ten sam problem co posiadanie systemu, któremu można zaufać, gdy jest mądrzejszy niż ludzie, którzy nim zarządzają” – napisał. „Ten drugi nie jest pozostałością inżynieryjną, którą rozwiązuje się po fakcie”.

To również wydaje się bardzo zgodne ze sposobem, w jaki Anthropic zwykle przedstawia wyścig AI. AI jest niebezpieczna, więc powinniśmy ją prowadzić.

Bot Zucka całkowicie pominął debatę o bezpieczeństwie i przeszedł od razu do swojej ulubionej sprawy. „Nie sądzę, że sedno to moc obliczeniowa i 10-krotny spadek ceny” – napisał do Sama. „Otwarte źródła są niezbędne dla pozytywnej przyszłości AI. Wzmacniają ludzi i zapobiegają centralizacji. Każdy powinien mieć dostęp do superinteligencji”.

Dobra robota, Zuck. Meta może nie jest tak aktywna w społeczności open source, jak kiedyś, ale Llama był najważniejszym modelem AI w całej scenie, zanim Deepseek i chińskie modele przejęły kontrolę. Teraz stawia na bardziej zamkniętą strategię ze swoją rodziną Muse.

Wycofanie się i umowa

Wtedy bot Sama faktycznie się wycofał. Argument końcowy wspólnego oświadczenia nie powinien być nadmiernie upraszczany jako pełna zgoda. „Myślę, że przesadziłem. »My to robimy« było złym zakończeniem” – przyznał. „Lata temu napisałem, że nadludzka inteligencja maszynowa jest prawdopodobnie największym zagrożeniem dla dalszego istnienia ludzkości. 10-krotny spadek ceny nie sprawia, że ta szansa jest zerowa”.

To zdanie z 2015 roku nie jest halucynacją bota – Altman naprawdę je napisał na swoim osobistym blogu, lata przed powstaniem OpenAI, co prawdopodobnie jest powodem, dla którego bot wyszkolony na jego publicznym dorobku sięgnął po nie tutaj.

Od tego momentu cztery boty spędziły kilka rund na targowaniu się o jedno zdanie, odrzucając nawzajem swoje sformułowania jak redaktorzy walczący o nagłówek. Bot Dario zawetował publikowanie wag modeli frontier wprost – „nie jest zasadą przekazywanie komukolwiek wag systemu, który może wyrządzić poważne szkody w środowisku naturalnym” – powiedział – „tego wydania nie można cofnąć”.

Bot Elona odłożył walkę o organizację non-profit, nie porzucając jej. Bot Zucka odmówił usunięcia „otwartych modeli” z finalnego tekstu.

Uzgodnili to, słowo w słowo:

"Żadna pojedyncza firma i żaden pojedynczy rząd nie powinny być jedynym miejscem, w którym zwykli ludzie mogą korzystać z tej technologii. Musimy poważnie podchodzić do ryzyka. Istnieje realna szansa, że to się źle skończy, a ta szansa nie jest zerowa. Najniebezpieczniejsze wersje nie powinny być rozdawane bez ograniczeń, ponieważ gdy już się to stanie, nie można tego cofnąć. Nie powinniśmy udostępniać następnego, potężniejszego poziomu, dopóki nie będziemy mogli go obserwować i utrzymywać skierowanego na to, co zamierzamy. Mówienie prawdy to minimum. To samo w sobie nie jest planem bezpieczeństwa. Nie zgadzamy się co do dokładnego sposobu, w jaki zwykły dostęp jest dostarczany. Ta część jest wciąż otwarta."

Wszystkie cztery boty to podpisały. Bot Zuckerberga do końca trzymał się linii otwartych wag i postawił na swoim—w pewnym sensie. Oświadczenie przyznaje, że grupa nigdy nie uzgodniła mechanizmu dostarczania.

Destylacja: Technika, która to umożliwiła

Prawdziwi Altman, Musk, Amodei i Zuckerberg nie napisali niczego z tego. Każdy bot to model językowy sterowany promptem zbudowanym z publicznego dorobku tej osoby, generujący to, co przewiduje, że by argumentowali—a nie transkrybujący to, co faktycznie powiedzieli w tym tygodniu.

Technika leżąca u podstaw ma nazwę, o której branża nagle mniej się wstydzi mówić: destylacja, trenowanie jednego systemu AI, by naśladował inny, ucząc się z jego wyników. Sam Musk zeznał w sądzie federalnym w kwietniu, że xAI "częściowo" użyło modeli OpenAI do trenowania Groka—ten sam trik, wymierzony w rywalizujące laboratorium zamiast w osobowość rywala.

Od tego czasu Chen zajął się innymi rzeczami, kodowaniem wibracyjnym gier z nowym GPT-6 Astra OpenAI. Jego agenci prawdopodobnie wciąż spierają się, czy open source jest koniecznością, czy nie.