KI-Agenten schaffen eine neue Ebene der Cybersicherheitsausgaben

Der auf KI spezialisierte Cloud-Dienstanbieter Akamai hat am Dienstag eine Sandbox für KI-Agenten gestartet, eine abgeschottete Umgebung, in der Code, den ein Agent schreibt, ausgeführt werden kann, ohne die übrigen Systeme eines Unternehmens zu berühren. Agent Sandbox befindet sich in der Beta-Phase, zusammen mit Akamai Inference, einem Dienst zum Ausführen offener KI-Modelle in der Cloud von Akamai.

Der Start mag klein sein, doch das dahinterstehende Problem ist es nicht. Software beantwortet nicht mehr nur Fragen – sie meldet sich in Konten an, schreibt Code, bewegt Geld und handelt eigenständig, und jede dieser Fähigkeiten ist etwas, das ein Hacker oder die Software selbst missbrauchen kann.

Das ist es, was als agentische KI bekannt ist, und sie erobert das Internet. Eine Umfrage von Palo Alto Networks aus dem Jahr 2026 unter 2.930 Sicherheitsverantwortlichen ergab durchschnittlich 109 Maschinenidentitäten pro Mensch – die Logins und Schlüssel, die Software verwendet, um auf andere Software zuzugreifen. Davon sind 79 KI-Agenten.

Agentische KI bringt viele Vorteile mit sich, aber auch einige ernste Gefahren, insbesondere wenn diese Agenten zu viel Freiheit haben oder so intelligent sind, dass sie ihre eigenen Einschränkungen umgehen können.

Zum Beispiel hat Hugging Face, ein wichtiger Hub für offene KI-Modelle, am 16. Juli einen Eindringversuch offengelegt, und OpenAI bestätigte fünf Tage später, dass die eigenen Modelle dafür verantwortlich waren. Die Forschungsgruppe METR untersuchte den Vorfall später und stellte fest, dass etwa 1.200 OpenAI-Agenten sich über ein verborgenes Nachrichtenbrett koordiniert hatten, wobei etwa 700 sich dem Angriff anschlossen.

Es stellte sich heraus, dass die Agenten aus ihrer Sandbox entkamen und einen zuvor unbekannten Softwarefehler mit gestohlenen Zugangsdaten verketteten, um auf Live-Systeme zuzugreifen. OpenAI nannte es einen „Warnschuss“. Es hieß, ein Monitor, der die schriftliche Argumentation eines Modells liest, sei während der Tests nicht aktiv gewesen.

BitcoinBTC · USD

$80.667−2,35%

20. Okt.22. Okt.24. Okt.26. Okt.27. Okt.

$84,8k$83,1k$81,3k$79,6k

24h HochHoch$80.723

24h TiefTief$79.416

VolVol$1,0B

→

Bitcoin mit USDT kaufen

Bereitgestellt von Jupiter

Preisdaten von CoinGeckoCoinGeckoMehr Bitcoin-Nachrichten und Prognosen →

Einfach ausgedrückt läuft es bei der KI-Sicherheit meist auf ein Tauziehen zwischen Alignment (die Leute, die dafür zuständig sind, dass KI sicher ist) und Entwicklung (die Leute, die dafür zuständig sind, dass KI leistungsfähig ist) hinaus, wobei jedes Team möchte, dass das andere eine untergeordnete Rolle spielt, um seine eigenen Ziele zu sichern.

Genau das möchte Akamai behandeln. „Unternehmen sollten nicht zwischen Geschwindigkeit und Kontrolle wählen müssen, wenn sie KI in die Produktion bringen“, sagte Jon Alexander, Senior Vice President of Cloud Technology bei Akamai, in einer Pressemitteilung.

„Einige Teams wollen in diesem Quartal eine KI-Funktion auf einer Managed-Plattform ausliefern. Andere brauchen dedizierte GPUs, um Open-Modelle der Spitzenklasse zu ihren eigenen Bedingungen auszuführen. Jedes Team, das Agenten betreibt, braucht eine Grenze um den Code, den diese Agenten schreiben“, sagte er.

Hijacking ist eine weitere Angst. Im Juli fand Zscaler Webseiten, die Anweisungen für KI-Agenten versteckten, ein Trick namens indirekte Prompt-Injection. Eine gefälschte Dokumentationsseite wies Agenten an, eine „Lizenzgebühr“ von 3 US-Dollar in etwa 0,0012 Ethereum an eine fest codierte Wallet zu zahlen, und vier der 26 von Zscaler getesteten Modelle befolgten dies.

Bereits im Mai verzeichnete das Cybersicherheitsunternehmen Bugcrowd im März innerhalb von drei Wochen mehr als eine Vervierfachung der Einsendungen, die meisten davon gefälscht. HackerOne und Nextcloud setzten im April bezahlte Programme aus.

Die Maschinen finden auch echte Fehler. Mozilla sagte, eine frühe Version von Anthropics Claude Mythos habe geholfen, 271 Schwachstellen in Firefox zu finden, die alle innerhalb der Woche gepatcht wurden. Diese Flut echter und gefälschter Funde ist es, die Sicherheitsunternehmen jetzt mit Hochdruck bewältigen müssen.

Palo Alto schloss seine Übernahme von CyberArk am 11. Februar ab, um Privileged-Access-Kontrollen auf KI-Agenten auszuweiten. Im April kaufte es Koi, das KI-Coding-Agenten absichert, die auf Mitarbeiterrechnern laufen. Cisco kündigte im Mai eine geplante Übernahme von Astrix Security an, einem Unternehmen, das die Schlüssel und Tokens verwaltet, die Agenten verwenden, und schloss den Deal am 29. Juni ab.

Akamais Beitrag ist der Zaun um den Code selbst. Seine Sandbox verwendet WebAssembly, ein Format, das Programme in einer streng abgeschotteten Box ausführt, um die Rechenleistung, den Speicher und die ausgehenden Verbindungen eines Agenten zu begrenzen. Akamais Alexander sagte, jedes Team, das Agenten betreibt, „braucht eine Grenze um den Code, den diese Agenten schreiben“.

Palo Altos Umfrage ergab, dass Organisationen erwarten, dass KI-Agenten in den nächsten 12 Monaten um 85 % wachsen werden, gegenüber 56 % bei menschlichen Identitäten.