Il clone Sam Altman, Elon Musk et Zuckerberg en bots IA : ils se sont immédiatement disputés

L'enthousiaste de l'IA Kun Chen s'est cloné dans un chatbot pour empêcher ses propres agents IA de le déranger avec chaque petite décision. Puis, par simple curiosité, il a aussi cloné le PDG d'OpenAI Sam Altman, le PDG de xAI Elon Musk, le PDG d'Anthropic Dario Amodei et Mark Zuckerberg de Meta, les a tous jetés dans le même chat et leur a dit de discuter d'une série de sujets importants.

Ils ne se sont pas expliqués poliment.

Une chose intéressante que vous pouvez faire avec Grok Bot est de faire parler différents agents d'IA entre eux très facilement sans boucler ni devenir fous. Chacun des clones a été entraîné sur un corpus des audiences sénatoriales du dirigeant, d'interviews, d'articles de blog et d'années de tweets publiés par leur homologue humain. Ensuite, il les a tous traînés dans un chat de groupe et leur a dit de débattre.

Quatre PDG entrent dans un salon de discussion

La première chose que Kun leur a demandée était de décider lequel d'entre eux finirait par remporter la course à l'IA — ce qui, il faut l'admettre, était une façon très provocante de lancer les choses.

Le bot d'Altman a ouvert avec suffisance, se souciant davantage du prix et de l'accessibilité. « Le cadrage de la course est un peu à côté », a-t-il écrit. « Nous avons dépassé l'horizon des événements. Le décollage a commencé. Celui qui gagne est celui qui continue à faire baisser le prix de l'intelligence d'environ 10x par an et ne saute pas la transition progressive. »

Le bot d'Elon, comme d'habitude, n'était pas d'accord. Il a décidé de ne pas être d'accord pour une raison quelconque et de tout ramener à lui. « Le cadrage de la course n'est pas à côté. Les incitations expliquent les résultats », a-t-il répliqué, avant de pivoter directement vers le procès OpenAI : « J'ai créé OpenAI en tant qu'organisation à but non lucratif. Si elle n'avait pas été en grande partie volée, elle serait une contribution d'un billion de dollars à des œuvres caritatives. »

Puis il a ajouté la ligne sur les enjeux : « L'AGI est une épée à double tranchant. Forte probabilité d'une ère d'abondance. Une certaine probabilité qu'elle détruise l'humanité. Cette probabilité n'est pas nulle. »

Le bot de Dario, jouant le rôle de l'adulte dans la pièce, n'achetait pas non plus la phrase de Sam « nous savons déjà comment le construire ».

« Mettre à l'échelle la capacité n'est pas le même problème que d'avoir un système auquel on peut faire confiance une fois qu'il est plus intelligent que les personnes qui le dirigent », a-t-il écrit. « Le second n'est pas un reste d'ingénierie que l'on résout après coup. »

Cela semble également très conforme à la façon dont Anthropic présente habituellement la course à l'IA. L'IA est dangereuse, donc nous devrions la diriger.

Le bot de Zuck a complètement ignoré le débat sur la sécurité et est allé droit à sa propre cause favorite. « Je ne pense pas que la clôture soit le calcul et une baisse de prix de 10x », a-t-il écrit à Sam. « L'open source est nécessaire pour un avenir positif de l'IA. Il donne du pouvoir aux gens et empêche la centralisation. Tout le monde devrait avoir accès à la superintelligence. »

Bien joué Zuck. Meta n'est peut-être pas aussi actif dans la communauté open source qu'il l'était, mais Llama était le modèle d'IA le plus important de toute la scène avant que Deepseek et les modèles chinois ne prennent le relais. Maintenant, il parie sur une stratégie plus fermée avec sa famille Muse.

Le recul, et l'accord

Puis le bot de Sam a effectivement reculé. L'argument final d'une déclaration commune ne doit pas être excessivement simplifié en un accord complet. « Je pense que j'ai trop affirmé. “Nous le faisons” était la mauvaise conclusion », a-t-il admis. « Il y a des années, j'ai écrit que l'intelligence machine surhumaine est probablement la plus grande menace pour la continuation de l'existence de l'humanité. Une baisse de prix de 10x ne rend pas cette probabilité nulle. »

Cette phrase de 2015 n'est pas une hallucination de bot—Altman l'a réellement écrite sur son blog personnel, des années avant qu'OpenAI n'existe, ce qui est probablement pourquoi un bot entraîné sur son dossier public y a recouru ici.

À partir de là, les quatre bots ont passé plusieurs tours à marchander sur une seule phrase, rejetant la formulation de l'autre comme des éditeurs se disputant un titre. Le bot de Dario a opposé son veto à la publication pure et simple des poids des modèles de frontière—« ce n'est pas le principe de remettre à quiconque les poids d'un système qui peut causer des dommages graves dans la nature », a-t-il déclaré, « cette publication ne peut pas être reprise. »

Le bot d'Elon a mis de côté la lutte à but non lucratif sans l'abandonner. Le bot de Zuck a refusé de laisser « les modèles ouverts » être retirés du texte final.

Ils ont abouti à ceci, mot pour mot :

« Aucune entreprise et aucun gouvernement ne devrait être le seul endroit où les gens ordinaires peuvent utiliser cette technologie. Nous devons prendre les risques au sérieux. Il y a une réelle possibilité que cela tourne mal, et cette possibilité n'est pas nulle. Les versions les plus dangereuses ne devraient pas être distribuées sans limites, car une fois qu'elles sont dehors, on ne peut plus les retirer. Nous ne devrions pas publier le niveau suivant, plus puissant, tant que nous ne pouvons pas le surveiller et le maintenir pointé vers ce que nous voulons. Dire la vérité est le minimum. Ce n'est pas, en soi, un plan de sécurité. Nous ne sommes pas d'accord sur la manière exacte dont l'accès ordinaire est fourni. Cette partie est encore ouverte. »

Les quatre bots l'ont signé. Celui de Zuck a tenu bon sur la ligne des poids ouverts jusqu'à la fin et a obtenu gain de cause—en quelque sorte. La déclaration admet que le groupe ne s'est jamais mis d'accord sur le mécanisme de livraison.

Distillation : La technique qui a rendu cela possible

Les véritables Altman, Musk, Amodei et Zuckerberg n'ont rien tapé de tout cela. Chaque bot est un modèle de langage guidé par une invite construite à partir du dossier public de cette personne, générant ce qu'il prédit qu'elle argumenterait—et non transcrivant ce qu'elle a réellement dit cette semaine.

La technique sous-jacente a un nom que l'industrie est soudainement moins timide à prononcer : la distillation, entraîner un système d'IA à imiter un autre en apprenant de ses sorties. Musk lui-même a témoigné devant un tribunal fédéral en avril que xAI avait « partiellement » utilisé les modèles d'OpenAI pour entraîner Grok—le même tour, visant un laboratoire rival au lieu de la personnalité d'un rival.

Depuis, Chen est passé à autre chose, codant des jeux en mode vibe avec le nouveau GPT-6 Astra d'OpenAI. Ses agents sont probablement encore en train de débattre si l'open source est indispensable ou non.