KI-Moratorium würde marktbeherrschenden Firmen nützen, nicht der Sicherheit, warnt Think Tank

Das libertäre Cato Institute warnt davor, dass eine staatlich verordnete Pause in der Entwicklung künstlicher Intelligenz dominante Unternehmen vor Wettbewerb schützen und nützliche Technologie verzögern könnte, während Gesetzgeber und KI-Führungskräfte auf Beschränkungen drängen.

In einem Blogbeitrag am Montag argumentierte Jennifer Huddleston, eine Technologiepolitik-Wissenschaftlerin der Denkfabrik, dass Unternehmen spezifische Gefahren durch freiwillige Schutzmaßnahmen und gemeinsame Standards angehen können, ohne die Entwicklung in der gesamten Branche zu stoppen.

„Eine von der Regierung verordnete Pause würde mehrere Bedenken aufwerfen und wahrscheinlich nicht die ihr zugeschriebenen Sicherheitsverbesserungen erfüllen“, schrieb sie und fügte hinzu, dass staatliche Vorschriften langsam verfasst und noch langsamer geändert werden. „Ein Regulierungsrahmen, der für die heutigen Modelle geschaffen wurde, könnte die morgigen aktiv behindern und bessere oder sicherere Antworten verhindern.“

Huddleston erkennt die Risiken von KI an, warnt jedoch davor, dass Regeln, die um führende Entwickler herum gestaltet werden, diesen helfen könnten, Macht zu konsolidieren und den Wettbewerb einzuschränken – eine Form der Markteroberung, die es kleineren Unternehmen erschweren würde, zu konkurrieren. Sie argumentiert außerdem, dass eine Pause der US-Entwicklung die Cybersicherheitsverteidigung schwächen könnte, während ausländische Rivalen weiter voranschreiten.

Ihr Kommentar folgt auf einen Vorschlag von Senator Bernie Sanders und Abgeordnetem Greg Casar, die Entwicklung fortgeschrittener KI auszusetzen, bis bundesstaatliche Sicherheitsstandards festgelegt sind, und künstliche Superintelligenz dauerhaft zu verbieten, während OpenAI-CEO Sam Altman eine langsamere Entwicklung befürwortet und Unternehmen dazu drängt, Schutzmaßnahmen zu verstärken, ohne auf die von ihm unterstützten bundesstaatlichen Vorschriften zu warten.

„Viele dieser Forderungen gehen mit science-fiction-artigen Weltuntergangsszenarien über das Schlimmste einher, was passieren könnte“, schrieb Huddleston. „Doch eine überstürzte Regulierung aus Angst könnte langfristig negativere Folgen haben als das Risiko, das sie angeblich adressiert.“

Blocks Vorsitzender und Mitbegründer, Jack Dorsey, äußerte in einem Beitrag auf X am Montag ähnliche Bedenken hinsichtlich des Wettbewerbs.

„Die Unternehmen, die die Maschinenintelligenz anführen, verdienen es, gehört zu werden. Sie verfügen über Fachwissen und kommerzielle Interessen, die es zu schützen gilt“, schrieb Dorsey. „Regeln, die auf ihre Ressourcen zugeschnitten sind, könnten sie zu den Einzigen machen, die teilnehmen können. Eine aufrichtige Sorge um Sicherheit kann dennoch eine Eintrittsbarriere darstellen.“

Dorsey sagte, er befürworte offene Veröffentlichungen, die Forscher untersuchen, verändern und testen können, wobei Bewertungen und bekannte Einschränkungen veröffentlicht werden sollten, damit Außenstehende die Sicherheitsbehauptungen der Entwickler hinterfragen können.

„Ich unterstütze eine genaue Prüfung. Ich lehne branchenweite Beschränkungen ab, die von den heutigen Marktführern ausgehandelt werden, weil sie die Menschen ausschließen könnten, die Fehler aufdecken oder Alternativen entwickeln könnten“, schrieb er. „Die Wahrung des kommerziellen Vorteils eines Unternehmens ist kein Sicherheitsziel.“

In seinem Beitrag sagte Dorsey außerdem, er unterstütze unabhängige Tests und öffentlich rechenschaftspflichtige Durchsetzung, einschließlich der Zurückhaltung von Modellen, wenn Beweise zeigen, dass ihre Veröffentlichung katastrophale Risiken wesentlich erhöhen würde, die durch engere Maßnahmen nicht ausreichend adressiert werden können.

„Compute kann eine Prüfung auslösen, ohne die Entwicklung zu begrenzen. Eine Untersuchung ist keine Genehmigung durch eine Aufsichtsbehörde oder einen Wettbewerber“, sagte er. „Ich will keine allgemeinen Genehmigungsanforderungen oder Wartezeiten. Jede auferlegte sicherheitsbedingte Verzögerung der Veröffentlichung muss durch die Ausnahme für katastrophale Risiken gerechtfertigt sein.“

Eine aktuelle Analyse des Atlantic Council argumentiert, dass der Wettbewerbsdruck durchsetzbare KI-Sicherheitsstandards erfordert, während das Misstrauen zwischen den USA und China internationale Abkommen erschwert. Die Zusammenarbeit wirft auch kartellrechtliche Bedenken auf: OpenAI hat Gesetzgeber gefragt, ob konkurrierende Entwickler rechtlich vereinbaren könnten, die Entwicklung zu verlangsamen.