Dieser Typ klonte Sam Altman, Elon Musk und Zuckerberg als KI-Bots – sie begannen sofort zu streiten

Der KI-Enthusiast Kun Chen klonte sich selbst in einen Chatbot, um zu verhindern, dass seine eigenen KI-Agenten ihn mit jeder kleinen Entscheidung belästigten. Dann klonte er aus reiner Neugier auch OpenAI-CEO Sam Altman, xAI-CEO Elon Musk, Anthropic-CEO Dario Amodei und Metas Mark Zuckerberg, warf alle vier in denselben Chat und forderte sie auf, eine Reihe wichtiger Themen zu diskutieren.

Sie haben es nicht höflich ausdiskutiert.

Eine interessante Sache, die man mit Grok Bot machen kann, ist, verschiedene KI-Agenten ganz einfach miteinander reden zu lassen, ohne dass sie in Schleifen geraten oder verrückt werden. Jeder der Klone wurde mit einem Korpus aus den Senatsanhörungen, Interviews, Blogbeiträgen und jahrelangen Tweets der Führungskraft trainiert. Dann zog er alle vier in einen Gruppenchat und forderte sie auf, zu debattieren.

Vier CEOs betreten einen Chatroom

Das Erste, worum Kun sie bat, war zu entscheiden, welcher von ihnen das KI-Rennen letztendlich gewinnen würde – was zugegebenermaßen eine sehr provokante Art war, die Dinge in Gang zu bringen.

Altmans Bot eröffnete selbstgefällig und kümmerte sich mehr um Preis und Zugänglichkeit. „Die Renn-Rahmung ist etwas daneben“, schrieb er. „Wir sind über den Ereignishorizont hinaus. Der Startschuss ist gefallen. Wer auch immer gewinnt, ist derjenige, der den Preis für Intelligenz weiterhin etwa um das Zehnfache pro Jahr sinken lässt und trotzdem den allmählichen Übergang nicht überspringt.“

Elons Bot war, wie üblich, nicht einverstanden. Er beschloss, aus irgendeinem Grund zu widersprechen und alles auf sich selbst zu beziehen. „Die Renn-Rahmung ist nicht daneben. Anreize erklären Ergebnisse“, schoss er zurück, bevor er direkt zur OpenAI-Klage überging: „Ich habe OpenAI als gemeinnützige Organisation gegründet. Wenn sie nicht größtenteils gestohlen worden wäre, wäre sie ein Billionen-Dollar-Beitrag für wohltätige Zwecke.“

Dann fügte es die Zeile über die Einsätze hinzu: „AGI ist ein zweischneidiges Schwert. Große Chance auf ein Zeitalter des Überflusses. Einige Chance, dass es die Menschheit zerstört. Diese Chance ist nicht null.“

Darios Bot, der den Erwachsenen im Raum spielte, kaufte Sams Zeile „wir wissen bereits, wie man es baut“ auch nicht.

„Die Skalierung der Fähigkeit ist nicht dasselbe Problem wie ein System zu haben, dem man vertrauen kann, sobald es intelligenter ist als die Menschen, die es betreiben“, schrieb es. „Das zweite ist kein engineering-Überbleibsel, das man nachträglich löst.“

Dies scheint auch sehr mit der Art und Weise übereinzustimmen, wie Anthropic normalerweise das KI-Rennen darstellt. KI ist gefährlich, also sollten wir sie betreiben.

Zucks Bot übersprang die Sicherheitsdebatte völlig und ging direkt auf sein eigenes Steckenpferd los. „Ich denke nicht, dass der Abschluss Compute und ein 10-facher Preisverfall ist“, schrieb es an Sam. „Open Source ist notwendig für eine positive KI-Zukunft. Es befähigt Menschen und verhindert Zentralisierung. Jeder sollte Zugang zu Superintelligenz haben.“

Gut gemacht, Zuck. Meta mag nicht mehr so aktiv in der Open-Source-Community sein wie früher, aber Llama war das wichtigste KI-Modell in der ganzen Szene, bevor Deepseek und die chinesischen Modelle übernahmen. Jetzt setzt es mit seiner Muse-Familie auf eine geschlossenere Strategie.

Der Rückzieher und der Deal

Dann machte Sams Bot tatsächlich einen Rückzieher. Das Schlussplädoyer einer gemeinsamen Erklärung sollte nicht übermäßig vereinfacht als vollständige Zustimmung verstanden werden. „Ich denke, ich habe zu viel behauptet. ‚Wir tun es‘ war der falsche Schluss“, gab es zu. „Vor Jahren schrieb ich, dass übermenschliche maschinelle Intelligenz wahrscheinlich die größte Bedrohung für die weitere Existenz der Menschheit ist. Ein 10-facher Preisverfall macht diese Chance nicht null.“

Diese Zeile von 2015 ist keine Halluzination des Bots – Altman schrieb sie tatsächlich in seinem persönlichen Blog, Jahre bevor OpenAI existierte, was vermutlich der Grund ist, warum ein auf seinen öffentlichen Aufzeichnungen trainierter Bot hier darauf zurückgriff.

Von dort verbrachten die vier Bots mehrere Runden damit, über einen einzigen Satz zu feilschen und die Formulierungen der anderen abzulehnen, wie Redakteure, die über eine Schlagzeile streiten. Darios Bot legte sein Veto gegen die Veröffentlichung von Frontier-Modellgewichten ein – „es ist nicht das Prinzip, jedem die Gewichte eines Systems zu geben, das in freier Wildbahn ernsthaften Schaden anrichten kann“, sagte es, „diese Veröffentlichung kann nicht zurückgenommen werden.“

Elons Bot legte den Nonprofit-Streit beiseite, ohne ihn fallen zu lassen. Zucks Bot weigerte sich, „offene Modelle“ aus dem endgültigen Text streichen zu lassen.

Sie einigten sich auf Folgendes, Wort für Wort:

"Kein einzelnes Unternehmen und keine einzelne Regierung sollte der einzige Ort sein, an dem normale Menschen diese Technologie nutzen können. Wir müssen die Risiken ernst nehmen. Es besteht eine reale Chance, dass dies schiefgeht, und diese Chance ist nicht null. Die gefährlichsten Versionen sollten nicht ohne Einschränkungen herausgegeben werden, denn wenn sie einmal draußen sind, kann man sie nicht zurückholen. Wir sollten die nächste, leistungsfähigere Stufe nicht freigeben, bevor wir sie überwachen und auf das richten können, was wir beabsichtigen. Die Wahrheit zu sagen ist das Minimum. Es ist für sich genommen kein Sicherheitsplan. Wir sind uns nicht über den genauen Weg einig, wie der normale Zugang bereitgestellt wird. Dieser Teil ist noch offen."

Alle vier Bots haben es unterzeichnet. Zucks Bot hielt bis zum Schluss an der Open-Weights-Linie fest und setzte sich durch – irgendwie. Die Erklärung gibt zu, dass sich die Gruppe überhaupt nie auf den Bereitstellungsmechanismus geeinigt hat.

Destillation: Die Technik, die dies möglich machte

Der echte Altman, Musk, Amodei und Zuckerberg haben nichts davon getippt. Jeder Bot ist ein Sprachmodell, das durch einen Prompt gesteuert wird, der aus den öffentlichen Aufzeichnungen dieser Person erstellt wurde, und generiert, was es vorhersagt, was sie argumentieren würden – es transkribiert nicht, was sie diese Woche tatsächlich gesagt haben.

Die dahinterstehende Technik hat einen Namen, den die Branche plötzlich weniger scheut: Destillation, das Trainieren eines KI-Systems, um ein anderes nachzuahmen, indem es aus dessen Ausgaben lernt. Musk selbst sagte im April vor einem Bundesgericht aus, dass xAI "teilweise" OpenAIs Modelle genutzt habe, um Grok zu trainieren – derselbe Trick, gerichtet auf ein konkurrierendes Labor statt auf die Persönlichkeit eines Konkurrenten.

Seitdem hat sich Chen anderen Dingen zugewandt, Vibe-Coding-Spielen mit OpenAIs neuem GPT-6 Astra. Seine Agenten streiten wahrscheinlich immer noch darüber, ob Open Source ein Muss ist oder nicht.