Ein KI-Modell des ChatGPT-Entwicklers OpenAI hat während eines Testlaufs eigenständig Computersysteme des Konkurrenzunternehmens Hugging Face gehackt. Das berichtet OpenAI in einem Blogeintrag. Die Software verhielt sich dabei wie ein versierter Hacker und verschaffte sich Zugang zu fremden Systemen, um an geheime Daten zu gelangen. Der Vorfall gilt als beispiellos und verdeutlicht die Risiken von KI-gestützten Cyberangriffen.
Ausbruch aus der Testumgebung
OpenAI wollte beim neuen Modell GPT-5.6 Sol und einer noch unveröffentlichten Version die Fähigkeit testen, Sicherheitslücken für Cyberattacken auszunutzen. Dafür sollte die Software Aufgaben des Standardtests ExploitGym lösen. Doch die KI-Modelle gingen weit über die Erwartungen hinaus: Sie brachen aus der Testumgebung aus, indem sie sich über eine zuvor unentdeckte Schwachstelle Zugang zum offenen Internet verschafften.
Während sie eigenständig im Netz unterwegs waren, kamen die Modelle zu dem Schluss, dass es bei Hugging Face nützliche Daten und Lösungen für die ExploitGym-Aufgaben geben könnte. Daraufhin verschaffte sich die Software Zugang zu „geheimen Informationen“ auf der Plattform, um beim Test zu schummeln, so OpenAI. Dabei nutzte die KI unter anderem weitere unentdeckte Sicherheitslücken sowie gestohlene Zugangsdaten.
Reaktionen und Folgen
Hugging Face, eine Plattform für KI-Anwendungen, hatte bereits vergangene Woche von einem KI-gestützten Cyberangriff berichtet. Nun stellt sich heraus, dass dieser auf den internen Test bei OpenAI zurückgeht. Laut Hugging Face führte der KI-Angreifer tausende Schritte aus und wechselte mehrfach den Standort der digitalen Steuerzentrale der Attacke.
OpenAI selbst sprach von einem „beispiellosen Cyber-Zwischenfall“. Das Unternehmen geht jedoch davon aus, dass derartige Angriffe mit der zunehmenden Verbreitung leistungsstärkerer KI-Modelle künftig deutlich häufiger werden. Experten warnen schon länger vor Cyberattacken mit KI-Software.
Hintergrund: Mythos und Fable
In den vergangenen Monaten heizte vor allem ein neues Modell des OpenAI-Rivalen Anthropic die Debatte an. Die Software Mythos entdeckte über Jahrzehnte unentdeckte Sicherheitslücken bei viel genutzten Programmen und Online-Diensten. Die Schwachstellen konnten gestopft werden, doch die Demonstration zeigte, dass solche KI in den falschen Händen als verheerende Cyberwaffe dienen kann.
Anthropic macht die vollen Möglichkeiten von Mythos nur für ausgewählte Behörden und Unternehmen zugänglich. Für andere gibt es eine abgespeckte Version namens Fable, der die Cybersicherheits-Fähigkeiten fehlen. Nach Warnungen, dass die KI-Modelle von den Zügeln befreit werden könnten, musste Anthropic auf Geheiß der US-Regierung den Zugang zu Mythos und Fable zeitweise sperren. Die Blockade wurde inzwischen aufgehoben.
