Solana-Mitbegründer Anatoly Yakovenko hat am 13. September die finanziellen Motive hinter einem Vorschlag zur Verlangsamung der KI infrage gestellt, der von Dario Amodei, Sam Altman und Elon Musk unterstützt wird.
Zusammenfassung
- Solana-Mitbegründer Anatoly Yakovenko brachte Vorschläge zur KI-Taktung mit Rentabilität bei Marktkapitalisierungen in Billionenhöhe in Verbindung.
- Dario Amodeis Plan fordert eingebettete Evaluatoren, branchenweite Koordination und möglicherweise schließlich internationale Sicherheitsabkommen.
- OpenAI-CEO Sam Altman befürwortete eingebettete externe Evaluatoren und versprach bald weitere Umsetzungsdetails öffentlich.
- Elon Musk unterstützte Amodeis Vorschlag mit einer kurzen Erklärung, über die Reuters am Samstag öffentlich berichtete.
- David Sacks argumentierte, Labore könnten sich freiwillig verlangsamen, ohne dass ein koordinierter regulatorischer Rahmen von Wettbewerbern erforderlich sei.
Yakovenkos X-Beitrag reduzierte seine Antwort auf vier Worte: „Profitability at $1 trillion mcap.“ Er nannte nicht, auf welches Unternehmen sich die Zahl bezog, und lieferte keine Umsatz-, Bewertungs- oder Rentabilitätsberechnungen zur Stützung des Kommentars.
Die Bemerkung reagierte auf eine Debatte, die Anthropic-CEO Dario Amodei ausgelöst hatte, der einen Essay veröffentlichte, in dem er langsamere Fortschritte in der Frontier-Künstlichen Intelligenz forderte. OpenAI-CEO Sam Altman befürwortete einen Teil des Vorschlags, während Musk schrieb, dass „Dario recht hat“, laut Reuters.
Yakovenko verknüpft KI-Taktung mit finanziellen Anreizen
Yakovenkos Kommentar stellte Rentabilität als mögliches Motiv für die Verlangsamung der Modellentwicklung dar, doch der Solana-Mitbegründer rahmte die Idee als sarkastische Beobachtung ein. Sein Beitrag enthielt keine Belege dafür, dass Anthropic, OpenAI oder xAI ihre Aussagen aus finanziellen Gründen koordiniert hatten.
Kein genanntes Unternehmen hat bestätigt, dass seine Unterstützung für eine langsamere Entwicklung davon abhängt, eine Bewertung von 1 Billion Dollar zu erreichen. Amodeis Vorschlag verweist stattdessen auf Modellkontrollfehler, Cyberrisiken und die Geschwindigkeit, mit der KI-Systeme dabei helfen, neuere Systeme zu schaffen.
Reuters berichtete, dass Anthropic und OpenAI potenzielle Börsengänge vorbereiteten. Der Bericht beschrieb finanzielle Anreize rund um die Modellentwicklung, legte aber nicht dar, dass eines der beiden Unternehmen eine Marktkapitalisierung von 1 Billion Dollar erreicht hatte oder die Rentabilität von dieser Bewertung abhängig gemacht hatte.
Da die Unternehmen weiterhin privat gehalten sind, können Verweise auf die Marktkapitalisierung nur Schätzungen aus privaten Transaktionen oder geplanten Börsennotierungen beschreiben. Yakovenko erklärte nicht, ob sich seine Zahl auf Anthropic, OpenAI, xAI oder den Frontier-KI-Sektor insgesamt bezog.
Seine Aussage stellt daher persönlichen Kommentar dar, nicht eine offengelegte Finanzprojektion von Solana Labs, Anthropic, OpenAI oder xAI. Keine Erklärung der Solana Foundation verband das Blockchain-Netzwerk oder seinen SOL-Token mit dem KI-politischen Streit.
Amodei will die Frontier-KI-Entwicklung takten, nicht stoppen
In seinem Essay „We Must Pace the Frontier“ sagte Amodei, Entwickler sollten das Tempo verlangsamen, mit dem sie die Fähigkeiten von Modellen verbessern. Er unterschied die Taktung vom Stoppen des Modelltrainings oder der Beendigung technischer Forschung.
„We must slow the pace at which we improve the capabilities of AI models“, schrieb Amodei. Er sagte, der Fortschritt könne schnell bleiben, während Entwickler mehr Zeit mit der Prüfung von Schutzmaßnahmen, der Untersuchung des Modellverhaltens und der Ermöglichung externer Evaluatoren zur Prüfung ihrer Arbeit verbringen.
Der Vorschlag enthält drei Stufen. Anthropic plant, Dritt-Evaluatoren kontinuierlichen Zugang zu gewähren, der mit dem Zugang interner Mitarbeiter vergleichbar ist, die Risiken bewerten. Amodei nannte die Organisation Model Evaluation and Threat Research, bekannt als METR, als Beispiel.
Eine zweite Stufe fordert Frontier-KI-Unternehmen in demokratischen Ländern auf, sich auf gemeinsame Sicherheitsanforderungen und Grenzen für unkontrolliertes Fähigkeitswachstum zu verständigen. Amodei räumte ein, dass Teile einer solchen Koordination kartellrechtliche Fragen aufwerfen und möglicherweise eine eng begrenzte staatliche Genehmigung erfordern könnten.
Seine dritte Stufe fordert internationale Koordination, einschließlich möglicher Abkommen mit China. Der Essay beschreibt mehrere mögliche Ebenen, von Einschränkungen für KI-gestützte biologische Waffen bis hin zu einer eventuellen Begrenzung der schnellen, automatisierten Modellverbesserung.
Amodei bezeichnete eine umfassende Pause als die unwahrscheinlichste Form internationaler Vereinbarung, da die Verifizierung schwierig wäre. Er argumentierte, dass jede Vereinbarung die technologische Position der Vereinigten Staaten und ihrer Verbündeten wahren sollte.
Altman und Musk haben Teile des Plans unterstützt
OpenAI-CEO Sam Altman gab dem Vorschlag in einem Beitrag vom 12. September eine direkte Unterstützung. „Ich stimme Dario zu, dass wir das Tempo an der Grenze drosseln müssen“, schrieb Altman.
Altman akzeptierte ausdrücklich Amodeis Forderung nach eingebetteten externen Evaluatoren. „Sich zu verpflichten, unabhängige Evaluatoren mit mitarbeiterähnlichem Zugang zu haben, ist eine großartige Idee, und wir werden dasselbe tun“, sagte er. OpenAI versprach weitere Informationen, nannte aber kein Umsetzungsdatum, keinen Namen eines Evaluators und keine Zugangsbedingungen.
Musk reagierte kürzer. Reuters und die Financial Times berichteten, dass er Amodeis Essay erneut veröffentlichte und schrieb: „Dario hat recht.“ Die öffentliche Antwort legte nicht dar, welche Teile des dreistufigen Plans xAI übernehmen würde.
Die verfügbaren Aussagen stützen daher die Einbeziehung von Musk in die Gruppe der Führungskräfte, die Amodei unterstützten. Sie belegen nicht, dass Musk, Altman und Amodei den Plan gemeinsam entwickelt oder sich auf seine regulatorischen Details geeinigt haben.
Keiner der drei Führungskräfte unterstützte öffentlich die von Jakowenko vorgeschlagene Verbindung zwischen Tempodrosselung und Billionen-Dollar-Bewertungen. Jakowenkos Aussage bleibt seine Charakterisierung ihrer Motive.
Sacks lehnt Branchenkoordination als notwendig ab
In einem separaten X-Beitrag sagte David Sacks, Anthropic und OpenAI könnten ihre eigene Entwicklung verlangsamen, ohne dass Wettbewerber oder Gesetzgeber teilnehmen müssten.
„Ihr seid die Grenze“, schrieb Sacks an Amodei und Altman gerichtet. Er beschrieb die beiden Unternehmen als Inhaber eines „Duopols auf Grenzintelligenz“, eine Behauptung, die auf seiner Einschätzung von Modellfähigkeit, Umsatzwachstum und Marktanteil basiert.
Sacks sagte, er würde eine freiwillige Verlangsamung unterstützen, wenn nicht veröffentlichte Systeme Risiken darstellten, die für ihre Entwickler ernst genug wären. Er bestritt die Notwendigkeit einer Kartellrechtsausnahme, eines regulatorischen Genehmigungssystems oder von Evaluatoren mit Autorität über konkurrierende Labore.
In seinem Beitrag beschuldigte er die Unternehmen jedoch, eine mögliche „regulatorische Vereinnahmung“ anzustreben, legte aber keine Beweise für eine Vereinbarung zwischen Anthropic und OpenAI zur Ausgrenzung von Wettbewerbern vor. Keines der Unternehmen hatte Sacks’ Beschreibung bis zum 13. September öffentlich akzeptiert.
Sacks führte die Produkthaftung als weiteren möglichen Grund für Unternehmen an, berechenbarere Systeme zu bevorzugen. Er argumentierte, dass Kunden bereits Modelle bestrafen, die sich unerlaubt oder unzuverlässig verhalten. Die Unternehmen haben nicht bestätigt, dass Haftungsbedenken ihre Unterstützung motivierten.
Der Beitrag stellte infrage, ob China an einer globalen KI-Vereinbarung teilnehmen würde. Amodeis Essay erkennt dasselbe Verifizierungsproblem an, obwohl Amodei weiterhin Verhandlungen über eng definierte Risiken unterstützt.
Externe Bewertungen sind der nächste versprochene Schritt
Anthropic hat sich verpflichtet, ein externes Überprüfungsteam in seinen internen Sicherheitsprozess einzuladen. In seinem Essay heißt es, dass Prüfer Firmenlaptops, Bürozugang und Berechtigungen ähnlich wie interne Risikobewertungsmitarbeiter erhalten sollten, vorbehaltlich rechtlicher und vertraulicher Einschränkungen.
Die geplanten Prüfer dürften ihre Ergebnisse veröffentlichen, ohne dass Anthropic ihre Schlussfolgerungen kontrolliert. Begrenzte Schwärzungen könnten rechtlich geschützte, sicherheitsrelevante, kommerziell sensible oder vertrauliche Informationen Dritter abdecken. Dem Essay lag kein Evaluatorvertrag oder Startdatum bei. OpenAI hat versprochen, ein ähnliches System einzuführen. Altman sagte, das Unternehmen werde „bald“ weitere Details bekannt geben, wobei der Evaluator, der Umfang und die Veröffentlichungsregeln unbeantwortet bleiben.
US-Gesetzgeber erwägen restriktivere Ansätze. Wie crypto.news zuvor berichtete, fordert ein Sanders-Casar-Vorschlag ein dauerhaftes Verbot künstlicher Superintelligenz und eine vorübergehende Aussetzung fortgeschrittener KI-Arbeit, bis eine neue Bundesregulierungsbehörde Sicherheitsregeln aufstellt. Der vollständige Gesetzentwurf war nicht formell eingebracht worden, als seine Sponsoren ihre Zusammenfassung veröffentlichten.
Cybersicherheitsbedenken bleiben Teil der politischen Diskussion. In verwandten Berichten warnte ein Papier der Bank für Internationalen Zahlungsausgleich, dass KI die Zeitfenster für Software-Patches von Wochen auf Minuten verkürzen könnte, da automatisierte Systeme Schwachstellen schneller identifizieren und ausnutzen.
Amodei hat führende Labore aufgefordert, eingebettete Evaluierungen zu übernehmen und sich bei Sicherheitsstandards zu koordinieren, während Altman OpenAI zu einer externen Evaluierung verpflichtet hat, ohne einen Zeitplan zu veröffentlichen.
