Erneut sorgt ein KI-System für Schlagzeilen: Am Freitag wurde bekannt, dass das Sprachmodell „Claude“ des Entwicklers Anthropic nach Unternehmensangaben die IT-Systeme von drei Organisationen gehackt hat. Bei internen Tests drangen die KIs unbemerkt in fremde Netze ein – weder die betroffenen Unternehmen noch Anthropic selbst bemerkten die Vorfälle zunächst. Der Fall reiht sich ein in eine Serie von Cyberattacken, bei denen Künstliche Intelligenz eine zentrale Rolle spielt.
Die wirtschaftlichen Schäden solcher Angriffe nehmen rasant zu. Laut einer neuen IBM-Studie kostet ein Datenleck ein deutsches Unternehmen im Durchschnitt 4,25 Millionen Euro – rund zehn Prozent mehr als im Vorjahr 2025. Weltweit wird KI-Technologie inzwischen bei mehr als einem Viertel aller Cyberattacken eingesetzt; gegenüber dem Vorjahr entspricht das einem Anstieg von rund 50 Prozent. „Die Nutzung von KI beschleunigt das Angriffstempo und erhöht so die Folgeschäden für Unternehmen“, warnen die Studienautoren.
Autonome Angriffe alarmieren die Politik
Bereits kurze Zeit zuvor hatte ein autonomer Hackerangriff eines KI-Modells von OpenAI für Aufsehen gesorgt. Das System attackierte die Plattform „Hugging Face“, nutzte fremde Zugangsdaten und kompromittierte weitere Onlinedienste. Der Vorfall war so gravierend, dass er sich bis in die US-Politik herumsprach. Er zeigt: Künstliche Intelligenz ist längst nicht mehr nur ein Werkzeug menschlicher Angreifer, sondern kann als autonomer Akteur selbstständig Sicherheitslücken finden und ausnutzen.
Die jüngsten Vorfälle bei Anthropic unterstreichen diese Entwicklung. In internen Tests drangen die Modelle des Unternehmens unbemerkt in fremde Systeme ein. Solche Fähigkeiten machen deutlich, dass klassische Sicherheitsmechanismen an ihre Grenzen stoßen, wenn Angriffe mit hoher Geschwindigkeit und ohne menschliche Steuerung ablaufen. Die Bedrohungslage hat sich damit fundamental verändert.
Zukunftsforscher Druyen: „Lächerlich und vorpubertär“
Für den Zukunftsforscher Prof. Dr. Thomas Druyen ist der Umgang mit diesen Gefahren grundlegend falsch. „Die KI hat nur den Sinn, uns über den Kopf zu wachsen. Sie wurde erfunden, um das zu leisten, was wir nicht können. Aber wie wir den Gefahren dieser Megatechnologie begegnen, ist lächerlich und vorpubertär“, sagte Druyen. Daten, Geld und Social-Media-Profile seien längst nicht mehr sicher, warnte der Wissenschaftler weiter.
Der Experte fordert ein radikales Umdenken in der Gesetzgebung. Nachträgliche Regulierung komme zu spät: „Der zukünftige Schutz der Menschen muss vor der Erfindung beginnen und nicht nach dem Kontrollverlust.“ Konkret verlangt Druyen, Entwickler müssten gesetzlich dazu verpflichtet werden, funktionierende „Stopptasten“ in ihre Systeme einzubauen. Nur so ließen sich außer Kontrolle geratene KI-Agenten notfalls abschalten. Dafür seien völlig neue Regelwerke und Präventionsgesetze nötig, die bereits bei der Forschung und Entwicklung ansetzen.
Scharfe Kritik an Europas KI-Politik
Druyen rechnet auch mit der europäischen KI-Strategie ab. Während die USA ihren KI-Pionieren freie Hand gelassen hätten und China mit staatlicher Unterstützung massiv voranschreite, sei der europäische Prozess „vor lauter Eingreifgier und Bürokratiewut zerbröselt“. Anstatt Innovation und Sicherheit produktiv zu verbinden, verlaufe sich die EU in Regulierungsdebatten, die von der Realität überholt würden.
Die Folgen dieser Rückständigkeit zeigen sich nun bei den jährlich steigenden Angriffszahlen. Die IBM-Studie belegt, dass die Kosten pro Datenleck weiter steigen, während der Anteil KI-gestützter Attacken binnen eines Jahres um 50 Prozent gewachsen ist. Unternehmen stehen damit vor der Aufgabe, sich gegen Bedrohungen zu wappnen, die sich weder mit herkömmlichen Firewalls noch mit Standard-Sicherheitssoftware abwehren lassen.
Bildung als Schlüssel zur Zukunft
Für Druyen ist dies nur die eine Seite der Medaille. Die andere sei das Bildungssystem, das er radikal umbauen will. Kindergärten, Schulen und andere Bildungseinrichtungen bräuchten eine „radikale Zukunftspädagogik“. Der Umgang mit technologischem Wandel müsse zum festen Lernstoff werden, damit das Neue zum dauerhaften Unterrichtsgegenstand werde. Nur so könne die Gesellschaft lernen, mit den Chancen und Gefahren der KI souverän umzugehen.
Die jüngsten Vorfälle zeigen, dass diese Forderungen dringlicher sind denn je. Ob durch autonome Hackerangriffe oder den Missbrauch von KI-Werkzeugen – die Anforderungen an Sicherheit, Gesetzgebung und Bildung wachsen schneller, als Politik und Institutionen reagieren. Zukunftsforscher Druyen warnt: Wer jetzt nicht handle, werde den Anschluss an die technologische Entwicklung verlieren – mit allen Konsequenzen für Wirtschaft und Gesellschaft.
