Sicherheitsvorfall bei Anthropic: Unbefugte nutzen mächtige KI Claude Mythos
In einem besorgniserregenden Vorfall hat sich eine kleine Gruppe unbefugter Nutzer offenbar Zugang zum neuen KI-Modell Claude Mythos des Unternehmens Anthropic verschafft. Laut einem Bericht der Nachrichtenagentur Bloomberg, der sich auf interne Dokumente und einen Insider stützt, gelang der Zugriff über ein privates Online-Forum genau an dem Tag, an dem Anthropic eine begrenzte Testphase des Modells ankündigte. Seitdem nutzt die Gruppe die Software regelmäßig, allerdings nicht für legitime Cybersicherheitszwecke.
Anthropic untersucht den Vorfall
Anthropic bestätigte, dass man einen Bericht über einen unbefugten Zugriff auf die Vorabversion Claude Mythos Preview über die Umgebung eines Drittanbieters untersucht. Das Unternehmen hatte das Modell am 7. April vorgestellt und stellt es im Rahmen des Project Glasswing ausschließlich ausgewählten Organisationen aus dem Bereich der defensiven Cybersicherheit zur Verfügung. Claude Mythos gilt als das bislang leistungsfähigste Modell von Anthropic für Programmieraufgaben und autonomes Handeln.
Gefährliche Fähigkeiten der KI
Die Weiterentwicklung des Sprachmodells Claude zeichnet sich durch verbesserte Fähigkeiten beim Aufspüren und Ausnutzen von Schwachstellen in Computerprogrammen aus. Aus diesem Grund hatte Anthropic vorerst auf eine Veröffentlichung verzichtet. Das Modell hat Tausende schwerwiegende Sicherheitslücken in weitverbreiteter Software identifiziert, darunter in gängigen Betriebssystemen und Webbrowsern. Einige dieser Lücken waren trotz zahlreicher menschlicher Prüfungen jahrelang unentdeckt geblieben. Experten warnen, dass die KI sogar Laien in die Lage versetzen könnte, komplexe Hackerangriffe zu starten.
Reaktionen und geplante Nutzung
Bundesbank-Präsident Joachim Nagel äußerte sich besorgt über die Risiken der Software und betonte: „Wir müssen den Missbrauch dieser Technologie verhindern.“ Die Bankenbranche mit ihrer teilweise veralteten IT-Infrastruktur gilt als besonders anfällig für solche Angriffe. Anthropic plant Insidern zufolge, europäischen Banken demnächst Zugang zu Claude Mythos zu gewähren, damit diese ihre Computersysteme auf Schwachstellen testen und schließen können. Einige US-Banken nutzen die KI bereits im Rahmen von Project Glasswing für Sicherheitsprüfungen.
Der Vorfall unterstreicht die dringende Notwendigkeit strenger Sicherheitsmaßnahmen bei der Entwicklung und Verteilung fortschrittlicher KI-Technologien, insbesondere wenn diese potenziell gefährliche Anwendungen ermöglichen.
