Verfassungsschutzpräsident Stephan Kramer hat vor erheblichen Gefahren durch das KI-Modell „Mythos“ der US-Firma Anthropic gewarnt. In einem Interview mit dem „Handelsblatt“ erklärte Kramer, dass „Mythos“ die Hürde für offensive Cyberoperationen senke, da es Schwachstellen in Software schnell finden und teilweise ausnutzen könne. Dies sei besonders gefährlich, wenn Kriminelle oder staatliche Akteure Zugriff auf das Modell erhielten.
Autonome Cyberangriffssimulationen
Als besonders kritisch bezeichnete Kramer Berichte, wonach „Mythos“ in Tests eine komplexe 32-Schritt-Cyberangriffssimulation teilweise autonom bewältigt habe. Diese Fähigkeit mache das Modell zu einer potenziellen Waffe, die nicht nur zur Verbesserung der Sicherheit, sondern auch zur Durchführung von Angriffen genutzt werden könne.
Forderungen an Europa
Kramer mahnte, dass Europa solche Modelle als „strategische Risikotechnologie“ behandeln müsse. Finanzaufsicht, Cyberabwehr, Nachrichtendienste und Betreiber kritischer Infrastrukturen sollten daher eng zusammenarbeiten. Riskante KI-Modelle sollten erst nach umfassenden Sicherheitsprüfungen, Lizenzverfahren und sogenannten Red-Teaming-Tests freigegeben werden. Zudem forderte Kramer klare Haftungsregeln für Anbieter sowie eine engere Zusammenarbeit europäischer Aufsichtsbehörden.
Warnung der Bundesbank
Bereits im April hatte Bundesbank-Präsident Joachim Nagel vor Risiken durch „Mythos“ gewarnt. „Mythos ist ein KI-Modell, das offenbar in der Lage ist, Sicherheitslücken in der Software von Finanzinstituten schnell zu identifizieren und auszunutzen“, so Nagel. Er bezeichnete das Modell als ein zweischneidiges Schwert, das sowohl zur Verbesserung digitaler Sicherheitssysteme als auch zur Ausnutzung ihrer Schwachstellen für böswillige Zwecke genutzt werden könne. „Wir müssen den Missbrauch dieser Technologie verhindern“, betonte Nagel. Zugleich müssten alle relevanten Institutionen Zugang zu der Technologie haben, um Wettbewerbsverzerrungen zu vermeiden.
