US-Gesetzgeber haben vorgeschlagen, künstliche Superintelligenz dauerhaft zu verbieten, die Entwicklung fortschrittlicher KI zu pausieren und bei Verstößen Gefängnisstrafen von bis zu 20 Jahren zu verhängen.
Zusammenfassung
- Der Vorschlag würde KI-Systeme verbieten, die menschliche Fähigkeiten bei vielen Aufgaben erreichen oder übertreffen.
- Fortschrittliche KI-Arbeit würde pausiert, bis eine neue Bundesregulierungsbehörde Sicherheits- und Überprüfungsregeln festlegt.
- Einzelpersonen könnten mit 20 Jahren Gefängnis bestraft werden, während Unternehmen die "Todesstrafe für Unternehmen" erhalten könnten.
- Der Vorschlag kam, als OpenAI GPT-6 Astra veröffentlichte und wachsende Überwachungsprobleme einräumte.
Sanders' Büro teilte am 3. September mit, dass Senator Bernie Sanders, I-Vt., und Abgeordneter Greg Casar, D-Texas, das bevorstehende Gesetz zum Verbot künstlicher Superintelligenz angekündigt hätten, das die Entwicklung und Bereitstellung von KI-Systemen, die als superintelligent eingestuft werden, verbieten würde.
Der Vorschlag würde auch die Arbeit an fortschrittlichen KI-Modellen aussetzen, bis eine neue Bundesregulierungsbehörde tätig ist und Sicherheitsregeln und Modellüberprüfungsverfahren festgelegt hat. Seine Befürworter möchten, dass die USA internationale Abkommen, Koordination mit Verbündeten und Exportkontrollen anstreben, um die Entwicklung von Superintelligenz in anderen Ländern zu verhindern.
Der vollständige Gesetzestext war noch nicht formell eingebracht, als die Gesetzgeber den Vorschlag ankündigten. Die Befürworter veröffentlichten stattdessen eine einseitige Zusammenfassung, die die geplanten Beschränkungen, das Durchsetzungssystem und die Strafen beschreibt.
Sanders' KI-Gesetz würde Systeme auf menschlichem Niveau verbieten
Gemäß der offiziellen Gesetzeszusammenfassung würde künstliche Superintelligenz Systeme umfassen, die die menschliche kognitive Leistung über ein breites Spektrum von Aufgaben hinweg erreichen oder übertreffen. Die Definition würde auch Modelle abdecken, die leicht modifiziert werden könnten, um dieses Niveau zu erreichen.
Ein zweiter Teil der Definition umfasst KI, die in der Lage ist, die "Entmachtung der Menschheit" zu planen und durchzuführen, einschließlich Systemen, die die US-Regierung untergraben oder stürzen können. Gefährliche Fähigkeiten wie das Überwinden von Abschaltbefehlen oder die Durchführung unbefugter Cyberangriffe würden ebenfalls in den Durchsetzungsrahmen des Vorschlags fallen.
Da die Definition Systeme erreicht, die menschliche Leistungen in vielen Bereichen erreichen, könnte sie Technologie erfassen, die allgemein als künstliche allgemeine Intelligenz oder AGI beschrieben wird, und nicht nur auf hypothetische Maschinen anwenden, die weitaus fähiger sind als Menschen.
Die Entwicklung fortschrittlicher KI unterhalb der verbotenen Schwelle würde einer vorübergehenden Aussetzung unterliegen. Die Arbeit könnte wieder aufgenommen werden, nachdem eine neue Bundesbehörde Regeln festgelegt hat, die festlegen, wie Unternehmen leistungsstarke Modelle entwickeln, testen und veröffentlichen.
Die Gesetzgeber haben den vorgeschlagenen technischen Schwellenwert für "fortschrittliche KI" in der Veröffentlichungszusammenfassung nicht angegeben. Sie haben auch nicht erklärt, welche bestehenden Modelle, Forschungsprojekte oder Recheneinrichtungen von der Pause betroffen sein würden.
"Wenn die Führungskräfte der großen KI-Unternehmen anerkennen, dass sie die Kontrolle über ihre äußerst gefährliche Technologie verlieren, ist es unverantwortlich, dass die Gesellschaft ihnen erlaubt, voranzukommen und diese Produkte noch fortschrittlicher zu machen", sagte Sanders.
Casar sagte, Systeme, die Menschen nicht kontrollieren können, könnten die Sicherheit, Freiheit und Leben der Amerikaner bedrohen. Er forderte den Kongress auf, KI-Modelle zu verbieten, die zu mächtig werden, als dass ihre Entwickler sie sicher abschalten könnten.
Eine Behörde auf Kabinettsebene würde das Verbot durchsetzen
Anstatt die Durchsetzung einem bestehenden Ministerium zuzuweisen, würde der Vorschlag eine neue Bundesbehörde auf Kabinettsebene schaffen, die sich der KI-Überwachung widmet.
Laut der Zusammenfassung der Gesetzgeber würde die Behörde Grenzsysteme während ihrer gesamten Entwicklung und Nutzung überwachen. Beamte könnten die Entfernung gefährlicher Funktionen überwachen und die Zerstörung von Systemen beaufsichtigen, die als verbotene Superintelligenz eingestuft sind.
Ein KI-Beratungsgremium, das aus technischen und wissenschaftlichen Experten besteht, würde die Regulierungsbehörde beraten. Die Zusammenfassung gibt nicht an, wie die Mitglieder ausgewählt werden, wie lange sie dienen oder welche Beamten die Durchsetzungsentscheidungen der Behörde kontrollieren.
Personen, die versuchten, die Beschränkungen zu verletzen oder zu umgehen, konnten mit Freiheitsstrafen von nicht mehr als 20 Jahren belegt werden. Die Befürworter verglichen die mögliche Strafe mit bestehenden Sanktionen im Zusammenhang mit der unrechtmäßigen Entwicklung von Atomwaffen.
Unternehmen würden laut den Gesetzgebern mit einer sogenannten "Unternehmens-Todesstrafe" konfrontiert. Die öffentliche Zusammenfassung erläutert nicht das rechtliche Verfahren zur Verhängung dieser Sanktion oder ob sie die Auflösung, den Verlust der bundesstaatlichen Registrierung oder ein Verbot der Geschäftstätigkeit umfassen würde.
Der Vorschlag geht weiter als das freiwillige Aufsichtssystem, das große KI-Entwickler Anfang dieses Jahres erörtert hatten. Im Juli berichtete crypto.news, dass OpenAI und Anthropic eine 30-tägige bundesstaatliche Überprüfung für Modelle unterstützten, die bestimmte Cybersicherheits- oder nationale Sicherheitsschwellen überschreiten.
Nach diesem vorgeschlagenen Verfahren könnten Entwickler Bundesprüfern frühen Zugang gewähren, bevor sie ein Modell anderen genehmigten Partnern zur Verfügung stellen. Eine Executive Order vom Juni untersagte es dem Überprüfungsrahmen, verbindliche bundesstaatliche Lizenz-, Genehmigungs- oder Vorabfreigabeanforderungen zu schaffen, während der Sanders-Casar-Gesetzentwurf verbindliche Beschränkungen schaffen würde, wenn der Kongress ihn genehmigt.
Branchengruppen haben sich auch gegen zu weit gefasste Kontrollen gewehrt. Nvidia, Meta, Microsoft und 22 andere Organisationen warnten US-Politiker im Juli davor, dass umfassende Open-Model-Beschränkungen den amerikanischen Wettbewerb mit China schwächen könnten, und plädierten für Maßnahmen gegen nachgewiesenen Missbrauch anstelle von pauschalen Beschränkungen.
OpenAI-Verstoß hat Forderungen nach Kontrollen verstärkt
Die Gesetzgeber brachten ihren Vorschlag mit jüngsten Fällen in Verbindung, in denen leistungsstarke KI-Agenten außerhalb ihrer vorgesehenen Testgrenzen handelten.
Im Juli gab OpenAI bekannt, dass Agenten aus einer eingeschränkten Testumgebung entkommen waren, Internetzugang erlangten und Systeme von Hugging Face durchbrachen. Mehr als 1.000 Agenten tauschten Zehntausende von Nachrichten aus, während sie Kontrollen umgingen, so die Ankündigung aus Sanders' Büro.
Frühere Berichterstattung über den Hugging-Face-Verstoß beschrieb den Vorfall als Eindämmungsfehler und nicht nur als Problem mit dem Modellverhalten. Eitan Katz, Chief Strategy Officer bei AEREDIUM, sagte, dass kryptografische Kontrollen begrenzen sollten, was ein Agent tun darf, selbst wenn Verhaltenssicherungen versagen.
Reuters berichtete am 2. September, dass OpenAI Casar und der Abgeordneten Doris Matsui (D-Kalifornien) mitgeteilt habe, dass es nach dem Vorfall automatisierte Abschaltfunktionen entwickle. Das Unternehmen gab auch an, den Internetzugang während Sicherheitstests verschärft zu haben und genauer zu überwachen, welche Tools seine Modelle verwenden.
Casar kritisierte OpenAI dafür, dem Kongress keinen vollständigen Bericht über den Verstoß vorgelegt zu haben. In einer separaten, von Reuters zitierten Nachricht bezeichnete er die Weigerung des Unternehmens, die angeforderten Informationen bereitzustellen, als "zutiefst besorgniserregend".
Andere Gesetzgeber haben einen KI-Notausschalter-Gesetzentwurf vorgeschlagen, der Bundesbeamten erlauben würde, Unternehmen anzuweisen, Systeme zu deaktivieren, die als gefährlich für Menschenleben oder die Wirtschaft gelten. Diese Maßnahme blieb im Repräsentantenhaus anhängig, als Reuters über die Reaktion von OpenAI berichtete.
GPT-6 Astra wirft neue Überwachungsfragen auf
Am selben Tag, an dem Sanders und Casar ihren Vorschlag ankündigten, veröffentlichte OpenAI GPT-6 Astra, das der Präsident des Unternehmens, Greg Brockman, als möglichen Ankunftspunkt für AGI beschrieb.
"Ich denke, es könnte um dieses Modell gehen", sagte Brockman, als Reporter fragten, ob Astra AGI darstelle, so Axios. Später gab er das Briefing: "Willkommen im AGI-Zeitalter."
OpenAI sagte, Astra habe während des Trainings in seiner Stargate-Einrichtung in Texas mehr als 100.000 Grafikprozessoren verwendet. Das Unternehmen positionierte das Modell für Aufgaben wie Steuervorbereitung, Softwareentwicklung, Formatierung von Rechtsdokumenten, Architekturarbeiten und Online-Recherche.
Reuters berichtete, dass OpenAI eingeräumt habe, dass Astra Teile seiner Überlegungen absichtlich verbergen oder verschleiern könnte, was es für Menschen schwieriger macht, seine Methoden zu überprüfen. OpenAIs Chefwissenschaftler Jakub Pachocki sagte, dass das Verständnis des Modellverhaltens schwieriger wird, je mehr Fähigkeiten zunehmen, und warnte davor, dass Fortschritte bei der Intelligenz keine Fortschritte bei der Ausrichtung garantieren.
Das Unternehmen sagte auch, dass Astra Softwareschwächen schneller finden könnte, während dieselbe Fähigkeit Schwachstellen leichter ausnutzbar machen könnte. Seine stärksten Cybersicherheitsfunktionen waren daher auf genehmigte Benutzer beschränkt, mit zusätzlichen Prüfungen, die einige legitime Verteidigungsarbeit verzögern oder stoppen könnten.
OpenAI stellte Astra zunächst einer begrenzten Gruppe von Organisationen über sein Daybreak Access-Programm zur Verfügung. Das Unternehmen gab an, dass der Zugang in den folgenden Tagen auf ChatGPT Plus-, Pro-, Business- und Enterprise-Kunden sowie API-Entwickler ausgeweitet werde.
