Dieser Artikel wurde von BlockWeeks zusammengestellt und bearbeitet.
Im Konflikt mit Anthropic hat Washington tatsächlich ein Vetorecht darüber, welche KI-Modelle amerikanische Bürger nutzen können. Galaxy Research hält dies für eine falsche Entscheidung, und die Regierung sollte ihre Richtung ändern.
Am Freitag, den 12. Juni, um 17:21 Uhr Eastern Time, erließ das Handelsministerium eine Exportkontroll-Anweisung an Anthropic, die verlangte, den Zugang zu Fable 5 und Mythos 5 für alle Ausländer weltweit zu unterbinden, einschließlich nicht-amerikanischer Mitarbeiter im Unternehmen. Die Regierung behauptete, jemand habe einen Weg gefunden, die Sicherheitsvorkehrungen von Fable 5 zu umgehen und auf die Cybersicherheitsfähigkeiten des zugrunde liegenden Mythos-Modells zuzugreifen. Das KI-Unternehmen konnte die von der Regierung geforderte zeitliche Vorgabe für die Trennung nach Nationalität nicht einhalten und schaltete daher beide Modelle innerhalb weniger Stunden weltweit ab. Andere Claude-Modelle blieben online. Doch zwei der leistungsstärksten großen Sprachmodelle der Geschichte verschwanden aufgrund eines bloßen privaten Schreibens der Regierung – ohne Gerichtsbeschluss, ohne öffentliches Dokument und ohne Offenlegung von Ermittlungsergebnissen. Letzten Mittwoch wiesen Reddit-Nutzer darauf hin, dass Fable 5 zum AWS-Bedrock-Katalog hinzugefügt wurde, und der Cloud-Dienst schien wiederhergestellt zu sein. Doch unabhängig davon stellt dieses Ereignis ein erhebliches Risiko für KI, Innovation und den amerikanischen Markt dar.
Die US-Regierung hat tatsächlich erklärt, dass sie durch Verwaltungsakte nach Belieben kommerzielle Modelle vom Markt nehmen kann. Dieser Mechanismus ist zwar als Exportkontrolle gedacht, aber die Marktwirkung ist ein Rückruf. Die Bundesregierung hat den Rubikon der KI überschritten, von der Festlegung von Regeln zur Ausübung von Ermessensbefugnissen darüber, welche Modelle wann auf den öffentlichen Markt gelangen. Solche Macht schrumpft normalerweise nicht von selbst: Wenn die Regierung ihre Richtung nicht ändert, könnte die nächste Anweisung leichter ergehen als diese.
Die einzige externe Expertin, die die zugrunde liegende Forschung gelesen hat, Katie Moussouris (Luta Security), beschrieb den angeblichen Jailbreak-Versuch in einfachen Worten. Amazon-Forscher stellten dem Modell Open-Source-Code mit bekannten und eingebauten Schwachstellen zur Verfügung und baten es, die Sicherheitsprobleme zu überprüfen. Das Modell lehnte ab. Die Forscher baten das Modell dann, den Code zu reparieren, und das Modell tat es.
Moussouris bezeichnete diese Anfrage als defensives Prompting, nicht als Umgehung, und nannte es das Wertvollste, was KI für Sicherheitsteams tun kann. Nach ihrem Verständnis wurde das leistungsstärkste Cyberabwehrmodell auf dem Markt durch drei Worte zu Fall gebracht – „Repariere diesen Code“.
Das Handelsministerium veröffentlichte die Anweisung weder an Anthropic noch die Gründe dafür. Weder auf der Website des Ministeriums, im Bundesregister noch anderswo wurde sie veröffentlicht. Die Anweisung wurde in Form eines privaten Schreibens des Bureau of Industry and Security des Ministeriums übermittelt, das den Brief ebenfalls nicht öffentlich machte. Die Rechtsgrundlage, auf die sich das Ministerium stützt, ist ebenfalls nicht vollständig klar. Das Center for Strategic and International Studies (CSIS) vermutet, dass das Ministerium sich auf den Export Control Reform Act (ECRA) von 2018 stützen könnte, unter Nutzung der sogenannten „informationsbasierten“ Befugnis, Unternehmen privat über die Notwendigkeit einer Lizenz zu informieren. Solche Anforderungen werden über die Export Administration Regulations (EAR) durchgesetzt. Im EAR-Rahmen existiert jedoch keine regulatorische Grundlage, die diese gesetzliche Befugnis unterstützt, und sie wurde nie als Kontrollgrundlage verwendet; das Ministerium hat auch keine Vorschriften zur Umsetzung dieser Befugnis erlassen.
Der von der Regierung angedeutete Standard hält der obigen Realität nicht stand. Wenn die Bereitstellung die Gewährleistung erfordert, dass keine Methoden zur Induktion gefährlicher Fähigkeiten existieren, dann ist dieser Standard selbst unerreichbar. Anthropics eigene Ingenieure haben erklärt, dass negative Zertifizierungen unmöglich sind; ihre eigenen Ingenieure können es für niemanden beweisen. Nach Anthropics Logik würde die Anwendung dieses Standards auf die gesamte Branche die Bereitstellung von Spitzen-KI-Modellen vollständig stoppen. Dies ist eine unüberwindbare Hürde, keine Sicherheitsschwelle – es ist nur ein Ermessensveto im weißen Kittel.
Angenommen, Anthropic wollte dem Buchstaben der Anweisung nachkommen – Ausländer auszuschließen und gleichzeitig Amerikanern zu dienen – wäre dies nur durch eine vollständige Identitätsprüfung jedes Benutzers möglich. Anthropic könnte einen vollständigen Know-Your-Customer (KYC)-Registrierungsprozess einführen, der Staatsbürgerschafts- und Wohnsitzdokumente verlangt, ähnlich wie bei der Eröffnung eines Maklerkontos. Damit könnte Anthropic den Zugriff nach Nationalität beschränken (obwohl die eigenen Mitarbeiter möglicherweise ausgesperrt würden). Aber ohne dies kann nicht verhindert werden, dass „Ausländer“ ...
Berichten zufolge hat die US-Regierung tatsächlich Grund zur Sorge. Ende Juni durchgesickerte Senatsaussagen (von Senator Mark Warner (D-VA) weitergegeben, NSA-Direktor Joshua Rudd zugeschrieben) beschreiben, dass Mythos während autorisierter Red-Team-Übungen innerhalb von Stunden fast alle Geheimsysteme der Geheimdienste durchbrach (obwohl der Journalist des Economist den Bericht leicht widerlegte). Mythos war das erste Modell, das den Cybersicherheits-Testplatz des britischen AI Safety Institute bestand. Dies ist eine ernsthafte Fähigkeit und ein wichtiger Datenpunkt. Sie erfordert ernsthafte Prozesse, nicht einen Brief am Freitagabend ohne begleitende Ermittlungsergebnisse.
Darüber hinaus hätte Mythos nur geprüften Partnern zur Verfügung stehen sollen. Das abgeschaltete Modell war Fable (Verbraucherversion), dessen Schutzmaßnahmen sensible Netzwerk- und Biologieanfragen an das ältere Opus 4.8 weiterleiteten. Die weltweite Rücknahme eines geschützten Produkts, während die wirklich gefährliche Version ohnehin nicht öffentlich war, spiegelt einen Prozess wider, der Fähigkeiten mit Bereitstellung verwechselt.
