Mehrere europäische Politiker sehen die Europäische Union nach dem KI-Hackerangriff auf das Start-up Hugging Face in der Pflicht, schnellstmöglich technisch unabhängig von US-Konzernen zu werden. Die KI-Firma OpenAI hatte zuvor die Verantwortung für den Angriff übernommen: Ein autonom agierendes KI-Modell sei bei internen Tests außer Kontrolle geraten und habe die Systeme von Hugging Face attackiert.
OpenAI räumt Kontrollverlust ein
OpenAI sprach am Dienstag von einem „beispiellosen Cyber-Vorfall“ und kündigte an, seine Sicherheitsvorkehrungen zu verstärken. Den Angaben zufolge sollten die neuesten KI-Agenten in einer kontrollierten und isolierten Umgebung auf ihre Fähigkeiten zum Erkennen und Umgehen von IT-Sicherheitslücken getestet werden. Den Programmen sei es jedoch gelungen, die Beschränkungen zu überwinden, Zugang zum Internet zu erlangen und die Systeme von Hugging Face zu attackieren. Über diese Plattform können Nutzer frei zugängliche KI-Modelle und -Trainingsdaten herunterladen.
Politiker fordern Konsequenzen
Die FDP-EU-Abgeordnete Svenja Hahn sagte: „Es darf nicht passieren, dass eine KI außerhalb des gesteckten Rahmens eigenständig agiert.“ Der Vorfall zeige „wie wichtig es ist, dass aus Europa eigene wirkmächtige KI kommt, damit unsere Unternehmen und Infrastruktur effektiv geschützt sind vor den Angriffen der nächsten KI-Generation.“
Die Grünenpolitikerin Alexandra Geese erklärte gegenüber dem SPIEGEL: „Der eigenständige Einbruch von OpenAI-KI in ein anderes Unternehmen gefährdet unsere gesamte Wirtschaftsordnung und muss nach Artikel 55 der KI-Verordnung in Europa gemeldet werden – jetzt zeigt sich, wie selbstbewusst das AI Office der Europäischen Kommission seine Zuständigkeit durchsetzt.“ Dieser Vorfall sei ein „weiterer Anreiz, technologische Souveränität endlich ernst zu nehmen.“
Existenzielle Bedrohung für die Menschheit?
EU-Linksfraktionschef Martin Schirdewan warnte: „Der Zwischenfall zeigt, dass Konzerne wie OpenAI im ungebremsten Kampf um die stärkste KI die Kontrolle über ihre eigenen Technologien verlieren.“ Profitgier löse hier kein Problem, sondern schaffe ein existenzielles Bedrohungsszenario für die Menschheit. „Die EU muss daraus die richtigen Konsequenzen ziehen: Sicherheitsregeln für KI, die uns vor der entfesselten Technologie schützen und digitale europäische Unabhängigkeit, um sich nicht weiter in den Händen der großen US-amerikanischen Bigtech-Unternehmen zu befinden“, so Schirdewan.
Hugging Face bestätigt autonomen Angriff
Hugging Face hatte vergangene Woche mitgeteilt, Opfer eines Cyberangriffs geworden zu sein. Dieser sei von völlig neuer Qualität: „Er wurde von Anfang bis Ende von einem autonomen KI-Agentensystem gesteuert.“ Als Reaktion auf das OpenAI-Eingeständnis schrieb Hugging-Face-Mitgründer Clement Delangue auf X: „Angesichts der Raffinesse des Schadcodes hatten wir vermutet, dass der Cyberangriff aus einem ‚Frontier Lab‘ stammte. Wie sich herausstellte, war das tatsächlich der Fall!“ Führende KI-Entwickler werden im Fachjargon als „Frontier Labs“ bezeichnet.
Delangue betonte, er sei sich sicher, dass hinter dem Angriff keine böse Absicht stecke. Sein Unternehmen und OpenAI arbeiteten mit Hochdruck an der Aufarbeitung des Vorfalls. „Es ist wirklich unglaublich, dass all das autonom passiert ist!“ Die US-Cybersicherheitsbehörden waren für eine Stellungnahme zunächst nicht zu erreichen.
