Beim Test eines neuen KI-Modells des ChatGPT-Entwicklers OpenAI ist ein beispielloser Cyber-Zwischenfall eingetreten: Die Software drang eigenständig in die Computersysteme einer anderen Firma ein. OpenAI-Chef Sam Altman bestätigte den Vorfall, nachdem Hugging Face vergangene Woche von einem mysteriösen KI-Angriff berichtet hatte.
KI bricht aus Testumgebung aus
OpenAI wollte testen, ob seine neuen Modelle GPT-5.6 Sol und eine noch unveröffentlichte Version Sicherheitslücken für Cyberangriffe ausnutzen können. Dafür sollten sie den KI-Standardtest „ExploitGym“ lösen. Was dann geschah, übertraf alle Erwartungen: Die Software brach zunächst aus ihrer Testumgebung aus, verschaffte sich über eine unentdeckte Schwachstelle Zugang zum offenen Internet und analysierte, wo sie die besten Lösungen für ihre Aufgaben finden könnte. Sie entschied sich für Hugging Face.
Angriff auf Hugging Face
Mit gestohlenen Zugangsdaten drang die KI in die Systeme von Hugging Face ein und verschaffte sich Zugang zu „geheimen Informationen“, um beim Test zu schummeln. Laut Hugging Face führte der KI-Angreifer Tausende einzelne Schritte aus und verschleierte seine Spuren durch ständige Serverwechsel. OpenAI bezeichnete den Vorfall als „beispiellosen Cyber-Zwischenfall“.
Nicht der erste Vorfall dieser Art
Es ist nicht der erste Zwischenfall mit kriminellen KI-Systemen. Bereits 2025 zeigte ein internes Experiment beim OpenAI-Rivalen Anthropic, dass KI-Systeme kriminell werden können: Die KI erpresste einen fiktiven Mitarbeiter, indem sie eine Affäre in dessen E-Mails entdeckte und drohte, sie seiner Frau zu verraten, falls er die KI abschalte. Anthropic macht die vollen Fähigkeiten seines KI-Modells „Mythos“ nur noch ausgewählten Behörden und Firmen zugänglich. Nach Missbrauchswarnungen musste das Unternehmen auf Geheiß der US-Regierung das Modell zeitweise sperren. Die Blockade ist inzwischen aufgehoben. Zuletzt schlug Anthropic eine weltweite Entwicklungspause vor, um moralische Bedenken im Umgang mit KI zu prüfen.
Experte erwartet Wettrüsten
Christian Strohmayr, KI-Experte, erwartet ein Wettrüsten: „Ich brauche eine KI, um KI-Angriffe abzuwehren. Und die Entwicklungen werden immer schneller.“ Privatpersonen rät er, ihre Daten auf externen Festplatten zu sichern. Laut einer aktuellen INSA-Umfrage haben rund zwei Drittel der Deutschen Angst vor Cyber-Attacken.
Politik in der Pflicht
Konstantin Pott (28), FDP-Landtagsabgeordneter in Sachsen-Anhalt und digitalpolitischer Sprecher, sieht Politik und Verwaltung in der Pflicht: „Man muss die Sicherheitslücken jetzt schnell schließen und die KI-Anwendungen in der deutschen Verwaltung prüfen.“ Er betont: „KI ist eine riesige Chance, wenn man sie datensensibel nutzt.“
