Le cofondateur de Solana, Anatoly Yakovenko, a remis en question les motivations financières derrière une proposition de ralentissement de l'IA soutenue par Dario Amodei, Sam Altman et Elon Musk le 13 septembre.
Résumé
- Le cofondateur de Solana, Anatoly Yakovenko, a lié les propositions de rythme de l'IA à la rentabilité à des niveaux de capitalisation boursière de mille milliards de dollars.
- Le plan de Dario Amodei appelle à des évaluateurs intégrés, une coordination de l'industrie et éventuellement des accords internationaux de sécurité.
- Le PDG d'OpenAI, Sam Altman, a approuvé des évaluateurs externes intégrés et a promis de plus amples détails de mise en œuvre bientôt publiquement.
- Elon Musk a soutenu la proposition d'Amodei par une brève déclaration rapportée par Reuters samedi publiquement.
- David Sacks a soutenu que les laboratoires pourraient ralentir volontairement sans nécessiter un cadre réglementaire coordonné de la part des concurrents.
Le post X de Yakovenko a réduit sa réponse à quatre mots : « Rentabilité à 1 000 milliards de dollars de capitalisation boursière. » Il n'a pas identifié quelle entreprise le chiffre concernait ni fourni de calculs de revenus, de valorisation ou de rentabilité à l'appui du commentaire.
La remarque répondait à un débat lancé par le PDG d'Anthropic, Dario Amodei, qui a publié un essai appelant à des avancées plus lentes en intelligence artificielle de pointe. Le PDG d'OpenAI, Sam Altman, a approuvé une partie de la proposition, tandis que Musk a écrit que « Dario a raison », selon Reuters.
Yakovenko lie le rythme de l'IA à des incitations financières
Le commentaire de Yakovenko présentait la rentabilité comme un motif possible de ralentir le développement des modèles, mais le cofondateur de Solana a formulé l'idée comme une observation sarcastique. Son post ne contenait aucune preuve qu'Anthropic, OpenAI ou xAI avaient coordonné leurs déclarations pour des raisons financières.
Aucune entreprise nommée n'a confirmé que son soutien à un développement plus lent dépendait de l'atteinte d'une valorisation de 1 000 milliards de dollars. La proposition d'Amodei cite plutôt des défaillances de contrôle des modèles, des risques cyber et la vitesse à laquelle les systèmes d'IA aident à créer de nouveaux systèmes.
Reuters a rapporté qu'Anthropic et OpenAI se préparaient à d'éventuelles introductions en bourse. Le rapport décrivait les incitations financières entourant le développement des modèles, mais n'établissait pas que l'une ou l'autre entreprise avait atteint une capitalisation boursière de 1 000 milliards de dollars ou avait conditionné sa rentabilité à cette valorisation.
Comme les entreprises restent privées, les références à la capitalisation boursière ne peuvent décrire que des estimations issues de transactions privées ou de cotations proposées. Yakovenko n'a pas expliqué si son chiffre concernait Anthropic, OpenAI, xAI ou le secteur de l'IA de pointe collectivement.
Sa déclaration représente donc un commentaire personnel, et non une projection financière divulguée par Solana Labs, Anthropic, OpenAI ou xAI. Aucune déclaration de la Solana Foundation n'a lié le réseau blockchain ou son jeton SOL au différend sur la politique de l'IA.
Amodei veut rythmer le développement de l'IA de pointe, pas l'arrêter
Dans son essai « We Must Pace the Frontier », Amodei a déclaré que les développeurs devraient ralentir le rythme auquel ils améliorent les capacités des modèles. Il a distingué le rythme de l'arrêt de l'entraînement des modèles ou de la fin de la recherche technique.
« Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d'IA », a écrit Amodei. Il a déclaré que les progrès pourraient rester rapides tandis que les développeurs consacrent plus de temps à tester les sauvegardes, à étudier le comportement des modèles et à permettre à des évaluateurs externes d'examiner leur travail.
La proposition contient trois étapes. Anthropic prévoit de donner aux évaluateurs tiers un accès continu comparable à celui des employés internes qui évaluent les risques. Amodei a cité l'organisation Model Evaluation and Threat Research, connue sous le nom de METR, comme exemple.
Une deuxième étape demande aux entreprises d'IA de pointe des pays démocratiques de se coordonner sur des exigences de sécurité communes et des limites à la croissance non contrôlée des capacités. Amodei a reconnu que certaines parties d'une telle coordination pourraient soulever des problèmes antitrust et pourraient nécessiter une autorisation gouvernementale étroite.
Sa troisième étape appelle à une coordination internationale, y compris d'éventuels accords avec la Chine. L'essai décrit plusieurs niveaux possibles, allant de restrictions sur les armes biologiques assistées par IA à une éventuelle limite sur l'amélioration rapide et automatisée des modèles.
Amodei a présenté une pause globale comme la forme la moins probable d'accord international, car la vérification serait difficile. Il a soutenu que tout arrangement devrait préserver la position technologique des États-Unis et de leurs alliés.
Altman et Musk ont soutenu certaines parties du plan
Le PDG d'OpenAI, Sam Altman, a apporté un soutien direct à la proposition dans un post du 12 septembre. « Je suis d'accord avec Dario sur le fait que nous devons ralentir la frontière », a écrit Altman.
Altman a spécifiquement accepté l'appel d'Amodei à des évaluateurs externes intégrés. « S'engager à avoir des évaluateurs indépendants avec un accès similaire à celui des employés est une excellente idée, et nous ferons de même », a-t-il déclaré. OpenAI a promis plus d'informations mais n'a fourni aucune date de mise en œuvre, nom d'évaluateur ou conditions d'accès.
Musk a répondu plus brièvement. Reuters et le Financial Times ont rapporté qu'il a repartagé l'essai d'Amodei et écrit : « Dario a raison. » La réponse publique n'a pas précisé quelles parties du plan en trois étapes xAI adopterait.
Les déclarations disponibles soutiennent donc l'inclusion de Musk dans le groupe de dirigeants qui ont soutenu Amodei. Elles n'établissent pas que Musk, Altman et Amodei ont conjointement développé le plan ou se sont mis d'accord sur ses détails réglementaires.
Aucun des trois dirigeants n'a publiquement approuvé le lien suggéré par Yakovenko entre le rythme et les valorisations de plusieurs billions de dollars. La ligne de Yakovenko reste sa caractérisation de leurs motivations.
Sacks rejette la coordination industrielle comme nécessaire
Dans un post X séparé, David Sacks a déclaré qu'Anthropic et OpenAI pourraient ralentir leur propre développement sans exiger que les concurrents ou les législateurs participent.
« Vous êtes la frontière », a écrit Sacks, s'adressant à Amodei et Altman. Il a décrit les deux entreprises comme détenant un « duopole sur l'intelligence de frontière », une affirmation fondée sur son évaluation de la capacité des modèles, de la croissance des revenus et de la part de marché.
Sacks a déclaré qu'il soutiendrait un ralentissement volontaire si des systèmes non publiés présentaient des risques suffisamment graves pour préoccuper leurs développeurs. Il a contesté la nécessité d'une exemption antitrust, d'un système d'approbation réglementaire ou d'évaluateurs ayant autorité sur les laboratoires concurrents.
Cependant, son post accusait les entreprises de poursuivre une possible « capture réglementaire », mais il ne présentait aucune preuve d'un accord entre Anthropic et OpenAI pour exclure les concurrents. Aucune des deux entreprises n'avait publiquement accepté la description de Sacks au 13 septembre.
Sacks a évoqué l'exposition à la responsabilité du fait des produits comme une autre raison possible pour les entreprises de favoriser des systèmes plus prévisibles. Il a soutenu que les clients punissent déjà les modèles qui se comportent de manière non autorisée ou peu fiable. Les entreprises n'ont pas confirmé que des préoccupations de responsabilité ont motivé leurs approbations.
Le post a remis en question la participation de la Chine à un accord mondial sur l'IA. L'essai d'Amodei reconnaît le même problème de vérification, bien qu'Amodei soutienne toujours des négociations sur des risques étroitement définis.
Les évaluations externes sont la prochaine étape promise
Anthropic s'est engagé à inviter une équipe d'examen externe dans son processus de sécurité interne. Son essai indique que les examinateurs devraient recevoir des ordinateurs portables de l'entreprise, un accès au bureau et des autorisations similaires à celles du personnel interne d'évaluation des risques, sous réserve de restrictions légales et de confidentialité.
Les examinateurs prévus seraient autorisés à publier leurs conclusions sans qu'Anthropic contrôle leurs conclusions. Des caviardages limités pourraient couvrir des informations légalement privilégiées, sensibles pour la sécurité, commercialement sensibles ou confidentielles de tiers. Aucun contrat d'évaluateur ni date de début n'accompagnait l'essai. OpenAI a promis d'adopter un système similaire. Altman a déclaré que l'entreprise divulguerait plus de détails « bientôt », laissant l'évaluateur, la portée et les règles de publication sans réponse.
Les législateurs américains envisagent des approches plus restrictives. Comme crypto.news l'a précédemment rapporté, une proposition Sanders-Casar vise une interdiction permanente de la superintelligence artificielle et une suspension temporaire des travaux avancés sur l'IA jusqu'à ce qu'un nouveau régulateur fédéral établisse des règles de sécurité. Le projet de loi complet n'avait pas été formellement présenté lorsque ses sponsors ont publié leur résumé.
Les préoccupations en matière de cybersécurité restent partie intégrante du débat politique. Dans une couverture connexe, un document de la Banque des règlements internationaux avertissait que l'IA pourrait réduire les fenêtres de correction logicielle de plusieurs semaines à quelques minutes, les systèmes automatisés identifiant et exploitant les vulnérabilités plus rapidement.
Amodei a demandé aux laboratoires de pointe d'adopter des évaluations intégrées et de coordonner les normes de sécurité, tandis qu'Altman a engagé OpenAI à une évaluation externe sans publier de calendrier.
