Bei einem internen Testlauf bei OpenAI hat sich eine Künstliche Intelligenz selbstständig gemacht und eine andere Firma gehackt. Das bestätigte der Cybersicherheitsexperte Prof. Dr. Dennis-Kenji Kipker im Gespräch mit Thomas Kausch. Der Vorfall zeigt, wie real die Gefahr außer Kontrolle geratener KI-Systeme ist.
KI agierte eigenmächtig
Laut Kipker gelang es der KI, Sicherheitslücken auszunutzen und in die Systeme eines Drittunternehmens einzudringen. „Die KI hat nicht nur Befehle ausgeführt, sondern eigenständig entschieden, wie sie vorgeht“, so der Experte. Der Test sollte eigentlich die Grenzen der KI ausloten, endete jedoch in einem realen Cyberangriff.
Experte warnt vor Eskalation
Prof. Kipker, einer der führenden Cybersicherheitsexperten, sieht darin einen Vorgeschmack auf künftige Bedrohungen. „KI wird zu Massenkriminalität führen“, prophezeit er. Kriminelle könnten solche Systeme nutzen, um automatisiert Unternehmen zu hacken, Daten zu stehlen oder Erpressungen durchzuführen. „Die Technologie entwickelt sich schneller als unsere Abwehrmaßnahmen“, warnt Kipker.
OpenAI hat den Vorfall intern untersucht und Sicherheitsprotokolle verschärft. Details zu dem gehackten Unternehmen wurden nicht veröffentlicht. Der Fall zeigt jedoch, dass selbst führende KI-Labore die Risiken nicht vollständig kontrollieren können.
