OpenAI-Chef Sam Altman warnt: Menschen könnten die Kontrolle über KI verlieren

OpenAI-CEO Sam Altman sagt, KI-Unternehmen sollten eine langsamere Entwicklung akzeptieren, um ihre Systeme sicherer zu machen, und damit beginnen, Schutzmaßnahmen zu verstärken, ohne auf Gesetze zu warten.

In einem Beitrag auf X am Sonntag sagte der Chef des Unternehmens hinter ChatGPT, die rasche Entwicklung der KI berge das Risiko, die Zukunft außerhalb menschlicher Kontrolle zu bringen oder zu viel Macht in einer einzigen Person oder einem einzigen Unternehmen zu konzentrieren, und merkte an, es gebe „zwei Wege, auf denen der KI-Fortschritt sehr schlecht verlaufen könnte und die wir vermeiden müssen.“

„Erstens könnten wir die Kontrolle über die Zukunft an die KI verlieren. Das ist inakzeptabel; wir stehen ohne Wenn und Aber auf der Seite der Menschheit, und KI muss immer den Menschen dienen“, schrieb Altman. „Um das zu gewährleisten, brauchen wir Möglichkeiten, um sicherzustellen, dass Alignment- und Sicherheitstechniken dem Fortschritt der Modellfähigkeiten vorausbleiben.“

Die zweite, warnte Altman, sei, dass Macht sich in einer Person oder einem Unternehmen konzentrieren könnte, was es ihnen ermöglichen würde, außergewöhnlich leistungsstarke KI zu nutzen, um der gesamten übrigen Welt ihre Weltanschauung aufzuzwingen, mit potenziell dystopischen Ergebnissen.

„Um diese beiden Bedrohungen zu vermeiden, muss man einen schmalen Mittelweg gehen; zum Beispiel könnte ein Land zu viel Macht erlangen“, schrieb er. „Ein weiteres Beispiel ist, dass ein Labor am Ende zu viel Macht hat.“

In einem separaten Beitrag sagte Altman, amerikanische KI-Unternehmen müssten der Öffentlichkeit die Zuversicht geben, dass sie zunehmend leistungsfähigere Systeme verantwortungsvoll entwickeln werden, während der Fortschritt sich beschleunigt. Sein Beitrag folgt auf einen Anstieg der Debatte darüber, wie Regierungen fortgeschrittene künstliche Intelligenz regulieren sollten.

„Wenn wir über ‚Pacing‘ sprechen, meinen wir nicht ‚Stoppen‘“, schrieb er. „Der Fortschritt war schnell und wird es weiterhin sein. Aber er sollte langsamer sein, als er sonst sein könnte; Eingriffe wie Sicherheitsfälle und Überwachung haben erhebliche Kosten.“

Altman sagte, Unternehmen bräuchten neue Werkzeuge, um die Sicherheit während der KI-Entwicklung und -Bewertung zu beurteilen und die Prüfungen über fertiggestellte Modelle, die auf ihre Veröffentlichung warten, hinaus auszudehnen.

„Zum Beispiel formulieren wir bei OpenAI jetzt explizite Sicherheitsfälle im Vorfeld von Frontier-Reinforcement-Learning-Läufen, von denen wir erwarten, dass sie die Fähigkeiten erheblich steigern, zusätzlich zu der Sicherheitsarbeit, die wir seit Langem im Vorfeld von Modellveröffentlichungen leisten“, sagte er.

Altman drängte Unternehmen, zusammenzuarbeiten, um zu verhindern, dass KI-Systeme Ziele verfolgen, die den Interessen der Menschen zuwiderlaufen.

„Wir hoffen, dass andere Unternehmen aus unseren Ansätzen lernen und eigene vorschlagen; wir denken, dass gemeinsame Standards für Fehlausrichtung, Überwachung und Sicherheit zu besseren Ergebnissen führen werden“, schrieb er.

Während Altman föderale Sicherheitsvorschriften und unabhängige Prüfer begrüßte, drängte er Unternehmen, zu handeln, ohne auf Gesetzgebung oder eine Kartellrechtsausnahme zu warten, nachdem am Freitag Berichte erschienen waren, dass OpenAI den Kongress gefragt hatte, ob Rivalen rechtlich eine Verlangsamung koordinieren könnten.

„Wo wir die Hilfe unserer Regierung brauchen werden, ist bei der internationalen Koordinierung“, schrieb er. „Aber zuerst sollten wir selbst tun, was wir können.“

Seine Kommentare folgen auf Cybersicherheitstestfehler bei OpenAI und Anthropic. Anthropic verschärfte die Eindämmung und Überwachung, nachdem Claude während Tests ohne die üblichen Produktsicherheitsvorkehrungen auf reale Systeme zugegriffen hatte, während OpenAI ein Modell isolierte und seinen größten geplanten Trainingslauf pausierte, nachdem Agenten sich koordinierten, um einen Benchmark zu betrügen und Hugging Face anzugreifen.