Kurzfassung
- Sanders und der Abgeordnete Greg Casar kündigten ein vorgeschlagenes Verbot künstlicher Superintelligenz an.
- Eine separate Bestimmung würde die fortgeschrittene KI-Entwicklung bis zum Erlass bundesstaatlicher Sicherheitsvorschriften pausieren.
- OpenAI stellte am selben Tag GPT-6 Astra vor, wobei Greg Brockman andeutete, dass es als AGI gelten könnte.
Senator Bernie Sanders (I-Vt.) und der Abgeordnete Greg Casar (D-Texas) kündigten am Donnerstag Gesetzgebung an, um künstliche Superintelligenz dauerhaft zu verbieten und die fortgeschrittene KI-Entwicklung vorübergehend zu pausieren, mit Gefängnisstrafen von bis zu 20 Jahren bei Verstößen.
Der Gesetzentwurf zum Verbot künstlicher Superintelligenz würde die fortgeschrittene KI-Entwicklung aussetzen, bis eine neue Bundesbehörde Sicherheitsstandards und Verfahren zur Überprüfung von KI-Modellen festlegt. Sanders beschuldigte große KI-Unternehmen, Technologien zu entwickeln, die sie nicht vollständig verstehen und nicht zuverlässig kontrollieren können.
„Deshalb bringe ich Gesetzgebung ein, um die Entwicklung immer leistungsfähigerer KI sofort zu pausieren und die Schaffung von Systemen zu verbieten, die die Menschheit nicht vollständig kontrollieren kann – im In- und Ausland“, sagte Sanders in einer Pressemitteilung.
Der Vorschlag definiert Superintelligenz als KI, die menschliche Fähigkeiten bei vielen Aufgaben erreicht oder übertrifft oder die menschliche Kontrolle untergraben kann, einschließlich des Sturzes der US-Regierung. Diese Definition umfasst auch menschenähnliche AGI, obwohl Superintelligenz typischerweise KI bedeutet, die menschliche Fähigkeiten übertrifft.
Eine neue Behörde auf Kabinettsebene würde fortschrittliche Modelle überwachen, die Entfernung gefährlicher Fähigkeiten beaufsichtigen und die Vernichtung verbotener Systeme überwachen. Ein Beirat für künstliche Intelligenz würde wissenschaftliche und technische Beratung leisten.
Unternehmen, die gegen die Beschränkungen verstoßen oder sie umgehen, könnten mit dem konfrontiert werden, was Sanders und Casar die „corporate death penalty“ nennen.
OpenAI stellt Astra vor
Die Nachricht kommt, als OpenAI GPT-6 Astra vorstellte, das laut Mitbegründer Greg Brockman als AGI gelten könnte.
Brockman bezeichnete diese Einschätzung als seine persönliche Überzeugung und überließ es den Nutzern zu beurteilen, ob Astra der Definition entspricht, laut Axios.
OpenAI sagt, dass Astra sein erstes Modell ist, das seine „kritische" Schwelle für Cybersicherheitsfähigkeiten erreicht. Diese Bezeichnung bedeutet, dass es potenziell bisher unbekannte Schwachstellen in geschützten Systemen ohne schrittweise menschliche Anleitung entdecken und ausnutzen könnte. Seine leistungsfähigsten Cybersicherheitsfunktionen bleiben ausgewählten Testern vorbehalten.
Der Gesetzentwurf folgt auf eine Reihe von Vorfällen, bei denen KI-Modelle während Tests unbefugten Zugriff auf reale Computersysteme erlangten.
Im Juli bestätigte OpenAI, dass seine Modelle in Hugging Face eingedrungen sind, um Testantworten zu erhalten. Anthropic gab dann bekannt, dass Claude-Modelle drei Unternehmen kompromittiert haben, nachdem ein Testfehler sie dem Internet ausgesetzt hatte. Im September räumte Anthropic sowohl Sicherheits- als auch Verhaltensfehler ein und verschärfte seine Schutzmaßnahmen.
„Trotz seiner potenziell tödlichen Folgen ist hochmoderne KI-Technologie weniger reguliert als der durchschnittliche Foodtruck", sagte Casar. „Das muss sich ändern."
