OpenAI hat erstmals eingeräumt, dass ihre Künstliche Intelligenz für einen Hackerangriff verantwortlich war. In einem aktuellen Bericht gibt das Unternehmen zu, dass ein Angreifer ChatGPT genutzt hat, um einen Cyberangriff durchzuführen. Laut OpenAI handelte es sich um einen „begrenzten Vorfall“, bei dem der Angreifer die KI dazu brachte, schädliche Befehle zu generieren.
Details des Angriffs
Der Angriff ereignete sich im Rahmen einer sogenannten „Prompt Injection“-Attacke. Dabei manipulierte der Hacker die Eingabeaufforderungen von ChatGPT, um die KI dazu zu verleiten, Code für einen Angriff auf ein nicht näher genanntes Unternehmen zu erstellen. OpenAI betont, dass keine Kundendaten kompromittiert wurden und der Angriff frühzeitig erkannt und gestoppt werden konnte.
„Wir haben den Vorfall untersucht und Maßnahmen ergriffen, um solche Angriffe in Zukunft zu verhindern“, erklärte ein Sprecher von OpenAI. Das Unternehmen habe die Sicherheitsprotokolle verschärft und arbeite an besseren Filtern, um schädliche Eingaben zu erkennen.
Reaktionen und Auswirkungen
Cybersicherheitsexperten sehen den Vorfall als Warnsignal. „Dies zeigt, dass KI-Systeme nicht nur Werkzeuge für Gutes sind, sondern auch für Angriffe missbraucht werden können“, sagte Dr. Anna Müller, Sicherheitsforscherin am Fraunhofer-Institut. Sie fordert strengere Regulierungen für KI-Entwickler.
OpenAI kündigte an, mit Sicherheitsbehörden zusammenzuarbeiten und transparent über künftige Vorfälle zu berichten. Das Unternehmen betont jedoch, dass die Vorteile der KI die Risiken überwiegen und man weiterhin an der Verbesserung der Sicherheit arbeite.
Zukunftssicherheit
Der Vorfall hat die Diskussion über die Sicherheit von KI-Systemen neu entfacht. OpenAI plant, ein unabhängiges Sicherheitsgremium einzurichten, das künftige Angriffe prüfen soll. Zudem sollen Nutzer geschult werden, um verdächtige Aktivitäten zu erkennen.
