US-Regierung und Anthropic-CEO beraten über KI-Modell Mythos und Cybergefahren
Die US-Regierung und der Chef des KI-Unternehmens Anthropic, Dario Amodei, haben sich erstmals seit einem Sicherheitsstreit Anfang des Jahres zu Gesprächen getroffen. Bei dem Treffen am Freitag ging es um mögliche Kooperationen sowie gemeinsame Ansätze zur Bewältigung der Herausforderungen durch die KI-Modelle von Anthropic, wie das Weiße Haus mitteilte.
Hintergrund: Wachsende Cyberangriffs-Befürchtungen
Hintergrund der Gespräche sind wachsende Befürchtungen, dass das neueste KI-Modell von Anthropic, Mythos, Cyberangriffe massiv verstärken könnte. Die neue Anthropic-KI hat Cybersicherheitsexperten weltweit alarmiert, da sie es Laien ermöglicht, komplexe Hackerangriffe zu starten. Bei ersten Tests hatte Mythos Sicherheitslücken entdeckt, die trotz zahlreicher Prüfungen durch Menschen jahrelang unerkannt geblieben waren.
Anthropic bezeichnete das Treffen als produktiv. Man habe erörtert, wie man bei wichtigen gemeinsamen Prioritäten wie Cybersicherheit, Amerikas Führungsrolle im KI-Rennen und KI-Sicherheit zusammenarbeiten könne. Die Bankenbranche gilt mit ihren veralteten Technologiesystemen als besonders anfällig für Angriffe durch KI.
Internationale Reaktionen und Projekt Glasswing
Regierungsvertreter in den USA, Kanada und Großbritannien haben sich mit führenden Bankenvertretern getroffen, um die von Mythos ausgehenden Bedrohungen zu erörtern. Die Europäische Zentralbank (EZB) will Insidern zufolge mit führenden Bankenmanagern über mögliche Konsequenzen aus dieser Entwicklung beraten.
Das am 7. April angekündigte Anthropic-Modell Mythos wird zunächst einer Gruppe von ausgesuchten Unternehmen zur Verfügung gestellt. Im Rahmen der Initiative Project Glasswing dürfen die Firmen das Modell nutzen, um nach Schwachstellen in der Cybersicherheit zu suchen.
Vorgeschichte: Sicherheitsstreit und nationale Risikobewertung
Bereits vor der Einführung von Mythos waren sich die US-Regierung und die Firma aus dem Silicon Valley uneinig über den Einsatz der KI von Anthropic. Auslöser des Streits war die Weigerung des Unternehmens, dem Militär die Nutzung seiner künstlichen Intelligenz für interne Überwachungszwecke oder autonome Waffen zu gestatten.
US-Verteidigungsminister Pete Hegseth hatte Anthropic daraufhin als Risiko für die nationale Sicherheit und die Lieferketten eingestuft. US-Präsident Donald Trump hatte zudem in einem Beitrag in den sozialen Medien angeordnet, dass alle Regierungsbehörden die Nutzung der künstlichen Intelligenz von Anthropic einstellen sollten.
Zukunftsperspektiven und Sicherheitsdialog
Die aktuellen Gespräche markieren eine Wende in den bisher angespannten Beziehungen zwischen der US-Regierung und Anthropic. Beide Seiten betonen die Notwendigkeit eines kontinuierlichen Dialogs, um die potenziellen Risiken der KI-Technologie zu adressieren und gleichzeitig Innovationen zu fördern.
Cybersicherheitsexperten warnen jedoch weiterhin vor den unvorhersehbaren Folgen von KI-Modellen wie Mythos, die traditionelle Sicherheitsmaßnahmen untergraben könnten. Die internationale Gemeinschaft beobachtet die Entwicklungen genau, da ähnliche KI-Technologien weltweit Verbreitung finden.
