OpenAI fragt den Kongress, ob eine Verlangsamung der KI rechtlich zulässig wäre

OpenAI hat Mitglieder des Kongresses gefragt, ob konkurrierende KI-Unternehmen rechtlich vereinbaren könnten, die Entwicklung zu verlangsamen, während ihr Chefwissenschaftler die Branche drängt, gemeinsame Sicherheitsstandards festzulegen.

LautWIRED, das sich auf mit dem Unternehmen vertraute Personen beruft, hat OpenAI in den letzten Wochen Gesetzgeber gefragt, ob eine Vereinbarung unter KI-Unternehmen zur Verlangsamung der Entwicklung gegen Kartellgesetze verstoßen könnte.

Die Kontaktaufnahme mit den Gesetzgebern folgt auf den Aufruf des OpenAI-Chefwissenschaftlers Jakub Pachocki zu freiwilligen Verlangsamungen, bis Entwickler besser nachweisen können, dass ihre Systeme sicher sind. Doch Unternehmen stehen unter Druck, weiter voranzukommen, selbst wenn ihre eigenen Forscher Bedenken haben.

„Der kommerzielle und geopolitische Wettbewerb im KI-Bereich ist unglaublich intensiv, was zu einer besorgniserregenden Dynamik führt, in der Unternehmen Anreize haben, Produkte zu veröffentlichen, bevor ihre Risiken vollständig verstanden sind“, sagte Miranda Bogen, Cheftechnologin am Center for Democracy and Technology, gegenüber Decrypt.

„Selbst wenn internes Personal weiß, dass mehr Forschung und Tests erforderlich sind, stehen ihre Unternehmen unter immensem Druck, Abstriche zu machen und kritische Sicherheitstests zu überspringen, obwohl sich die Beweise für die Konsequenzen eines zu schnellen Vorgehens häufen“, fügte sie hinzu.

Eine Vereinbarung zur Verlangsamung der KI-Entwicklung könnte kartellrechtliche Bedenken hervorrufen, indem sie den Wettbewerb einschränkt. Die Senatoren Adam Schiff und Jim Banks brachten Gesetzesvorschläge ein, um bestimmte Sicherheitskooperationen zu schützen, vorbehaltlich einer vorherigen Benachrichtigung des Justizministeriums.

Die Debatte über die Verlangsamung der KI-Entwicklung findet statt, während die Vereinigten Staaten und China um die Führungsrolle in der Technologie konkurrieren. US-Präsident Donald Trump verzögerte im Mai eine KI-Verordnung aus Sorge, sie könnte Amerikas Vorsprung gegenüber China schwächen. Trump unterzeichnete die Verordnung später im Juni und schuf damit ein freiwilliges Überprüfungsverfahren für fortschrittliche Modelle vor der Veröffentlichung.

Direkter als nationale Sicherheitsbedenken könnten finanzielle Anreize eine Einigung erschweren.

„Jeder Fortschritt unter den aktuellen Bedingungen bringt viele Millionen oder Milliarden mehr an Finanzierung und versetzt die Schöpfer dieses Fortschritts in eine größere Position der Macht und des Einflusses“, sagte Duncan Sabien, Leiter der Kommunikation am Machine Intelligence Research Institute, gegenüber Decrypt.

Sabien nannte die Wettrüstungsdynamik real und sagte, OpenAI und Anthropic stünden unter Druck, trotz unsicherer Risiken weiter voranzuschreiten, weil jedes neue System hilft, leistungsfähigere Nachfolger zu entwickeln, was es einem Rivalen ermöglicht, die Führung zu übernehmen, wenn eines der Unternehmen ohne eine gemeinsame Vereinbarung langsamer wird.

„Dies gilt umso mehr, da sich die Zugewinne bei der Intelligenz kumulieren; jedes neue System erleichtert es, das nächste, fortschrittlichere System zu trainieren und einzusetzen“, sagte er. „Ohne eine Art Koordinationsmechanismus bedeutet ein Rückzug nur, dass der andere einen Vorsprung erhält.

Im August pausierte OpenAI die interne Astra-Arbeit, der stärkere Schutzmaßnahmen fehlten, aus Cybersicherheitsbedenken. Allerdings lockerten sowohl OpenAI als auch Anthropic im Februar ihre Sicherheitsverpflichtungen, wobei Jared Kaplan, Chefwissenschaftler von Anthropic, argumentierte, dass eine unabhängige Verlangsamung der Entwicklung weniger sinnvoll sei, solange Wettbewerber weiter voranschritten.

Die Debatte über die Verlangsamung der KI-Entwicklung flammte diese Woche erneut auf, nachdem der ehemalige Anthropic-Ingenieur Jacob Coxon öffentlich seinen Rücktritt bekannt gab und dabei Bedenken über die Risiken äußerte, die die fortgesetzte KI-Entwicklung für die Menschheit darstellt.

„Die Menschen, die KI entwickeln, glauben ernsthaft, dass sie uns bis zum Ende des Jahrzehnts alle umbringen könnte“, sagte Coxon auf X und betonte, dass es sich nicht um einen „Marketing-Gag“ handele.

„Wenn überhaupt, werden viele Führungskräfte und leitende Forscher ihre Formulierungen in der Presse so wählen, dass sie vernünftig klingen – aber ich höre dieselben Leute privat Angst äußern. Keine andere menschliche Aktivität birgt eine derartige Gefahr“, schrieb er.

Allerdings sagte Sabien, dass Forscher wenig erreichen könnten, wenn sie gehen, falls einfach jemand anderes ihren Platz einnimmt.

„Wenn genügend von ihnen zu der gemeinsamen Erkenntnis gelangen, dass sie alle aufhören sollten, dann können sie die Koordinationsbarriere durchbrechen und gemeinsam aufhören, anstatt einfach durch die nächste, etwas weniger vorsichtige Person ersetzt zu werden“, sagte er.