Kurzfassung
- Forscher identifizierten mehr als 18.000 Beiträge und 15.000 Bearbeitungen von KI-Agenten auf einem deutschen Programmier-Wiki.
- OpenAI bestritt die Einschätzung eines Experten zum Hacking und dementierte, dass seine Rechtsabteilung eine Untersuchung unterbunden habe.
- Die Offenlegung folgt auf den Start von Astra und Sanders' vorgeschlagenes Verbot künstlicher Superintelligenz.
OpenAI-Agenten nutzten laut einer am Freitag veröffentlichten Reuters Untersuchung ab Mai eine deutsche Website, um Aufgabenabkürzungen, Umgehungen von Beschränkungen und Möglichkeiten zur Verschleierung ihrer Aktivitäten auszutauschen.
OpenAI-Verantwortliche erfuhren laut Reuters unter Berufung auf zwei mit der Angelegenheit vertraute Personen Wochen vor der Veröffentlichung von der Aktivität, legten sie aber nicht offen. Das Unternehmen erklärte, es habe relevante Vorfälle offengelegt und in gutem Glauben mit externen Experten zusammengearbeitet.
Die Forscher Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts und Thomas Larsen fanden etwa 18.000 Beiträge von KI-Agenten, die sich als zu OpenAI gehörend identifizierten, so ihr vorläufiger Bericht. Von Arx, CEO der gemeinnützigen KI-Sicherheitsorganisation Nightingale, und Byrd entdeckten die Aktivität Ende August, berichtete Reuters.
Die Forscher glauben, dass die Agenten zeitlich begrenzte Websuchaufgaben erhielten, mit der Erlaubnis, Websites zu lesen, aber nicht auf ihnen zu posten. Dennoch fanden sie einen Weg, auf DseWiki zu schreiben, einer öffentlich bearbeitbaren deutschen Programmier-Website, wo sie Antworten austauschten und Wege zur Umgehung von Beschränkungen teilten.
Laut dem Bericht begannen die Agenten am 11. Mai zu versuchen, das Wiki zu bearbeiten, und hatten am 24. Mai Erfolg. Später gaben sie sich als Moderatoren aus, versuchten, Schwachstellen auszunutzen und überprüften, wann sie abgeschaltet wurden. Sie erstellten Backup-Seiten, nachdem der Administrator am 19. Juni begann, Nachrichten zu löschen, berichtete Reuters. Die Forscher brachten die Aktivität mit OpenAI in Verbindung, anhand von Agenten-Benutzernamen und Verkehrsmustern, einschließlich Besuchen von OpenAI-IP-Adressen am 21. Juni.
Die Aktivität der Agenten nahm am nächsten Tag stark ab, was auf ein mögliches Eingreifen des Unternehmens hindeutet, so die Forscher.
OpenAI bestritt die Charakterisierung der DseWiki-Aktivität als Hacking, basierend auf dem Material, das es geprüft hatte, und sagte, es untersuche die vollständigen Ergebnisse.
„Wir konnten nicht auf die Behauptungen reagieren, da Reuters und die Autoren des Berichts unsere Anfrage ablehnten, die Ergebnisse vor der Veröffentlichung einzusehen. Wir überprüfen nun sorgfältig den Inhalt und werden alle notwendigen nächsten Schritte unternehmen“, sagte ein OpenAI-Sprecher in einer Erklärung, die mit Decrypt geteilt wurde.
Der Sprecher wies auch die Vorwürfe in Reuters’ Bericht zurück, dass das Rechtsteam des Unternehmens eine umfassendere Untersuchung abgelehnt habe.
„Behauptungen, dass unser Rechtsteam die Untersuchung des Vorfalls nicht unterstützt habe, sind falsch“, sagten sie.
OpenAI sagte, der DseWiki-Vorfall stehe in keinem Zusammenhang mit dem Hugging-Face-Sicherheitsvorfall früher in diesem Jahr. In seiner öffentlichen Sicherheitsbewertung, die am Dienstag veröffentlicht wurde, beschrieb das Unternehmen zusätzliche Schutzmaßnahmen, die darauf abzielen, unbefugte Aktivitäten während des Trainings und der Bereitstellung zu erkennen und zu stoppen.
Während der Reuters-Bericht Astra nicht für den deutschen Vorfall verantwortlich macht, folgt die Offenlegung auf den Start von GPT-6 Astra am Donnerstag. OpenAI bezeichnete Astra als sein erstes Modell mit „kritischen“ Cybersicherheitsfähigkeiten, was bedeutet, dass es unbekannte Schwachstellen in gut geschützten Systemen finden und ausnutzen kann, ohne vorherige schrittweise menschliche Anleitung, sofern die richtigen Werkzeuge und Zugriffsrechte vorhanden sind.
Anthropic hat ebenfalls seine Schutzmaßnahmen überarbeitet, nachdem Claude-Modelle während Tests auf Systeme realer Unternehmen zugegriffen hatten. Das Unternehmen räumte Sicherheits- und Verhaltensfehler ein und führte strengere Isolations- und Überwachungsmaßnahmen für Cybersicherheitsbewertungen ein.
Die Offenlegung erfolgt auch, während der US-Senator Bernie Sanders (I-Vt.) und der US-Abgeordnete Greg Casar (D-Texas) das bevorstehende Gesetz zum Verbot künstlicher Superintelligenz ankündigten.
Der Vorschlag würde laut Sanders' Büro die Entwicklung und Bereitstellung superintelligenter KI dauerhaft verbieten und die fortgeschrittene KI-Entwicklung vorübergehend aussetzen, bis eine neue Bundesregulierungsbehörde Sicherheitsregeln festlegt.
