US-Regierung und Anthropic-CEO beraten über KI-Modell Mythos und Cyberangriffsrisiken
Die US-Regierung und der Chef des KI-Unternehmens Anthropic, Dario Amodei, haben sich erstmals seit einem Sicherheitsstreit Anfang des Jahres zu Gesprächen getroffen. Bei dem Treffen am Freitag ging es um eine mögliche Zusammenarbeit sowie gemeinsame Ansätze zur Bewältigung der Herausforderungen durch die KI-Modelle von Anthropic, wie das Weiße Haus mitteilte.
Hintergrund: Mythos-KI alarmiert Cybersicherheitsexperten weltweit
Hintergrund der Gespräche sind wachsende Befürchtungen, dass das neueste KI-Modell von Anthropic, Mythos, Cyberangriffe massiv verstärken könnte. Die neue Anthropic-KI hat Cybersicherheitsexperten weltweit alarmiert, da sie es Laien ermöglicht, komplexe Hackerangriffe zu starten. Bei ersten Tests hatte Mythos Sicherheitslücken entdeckt, die trotz zahlreicher Prüfungen durch Menschen jahrelang unerkannt geblieben waren.
Anthropic bezeichnete das Treffen als produktiv. Man habe erörtert, wie man bei wichtigen gemeinsamen Prioritäten wie Cybersicherheit, Amerikas Führungsrolle im KI-Rennen und KI-Sicherheit zusammenarbeiten könne. Die Bankenbranche gilt mit ihren veralteten Technologiesystemen als besonders anfällig für Angriffe durch KI.
Regierungsvertreter und Banken in Alarmbereitschaft
Regierungsvertreter in den USA, Kanada und Großbritannien haben sich mit führenden Bankenvertretern getroffen, um die von Mythos ausgehenden Bedrohungen zu erörtern. Die Europäische Zentralbank (EZB) will Insidern zufolge mit führenden Bankenmanagern über mögliche Konsequenzen aus dieser Entwicklung beraten.
Das am 7. April angekündigte Anthropic-Modell Mythos wird zunächst einer Gruppe von ausgesuchten Unternehmen zur Verfügung gestellt. Im Rahmen der Initiative Project Glasswing dürfen die Firmen das Modell nutzen, um nach Schwachstellen in der Cybersicherheit zu suchen.
Vorgeschichte: Streit über militärische Nutzung der KI
Bereits vor der Einführung von Mythos waren sich die US-Regierung und die Firma aus dem Silicon Valley uneinig über den Einsatz der KI von Anthropic. Auslöser des Streits war die Weigerung des Unternehmens, dem Militär die Nutzung seiner künstlichen Intelligenz für interne Überwachungszwecke oder autonome Waffen zu gestatten.
US-Verteidigungsminister Pete Hegseth hatte Anthropic daraufhin als Risiko für die nationale Sicherheit und die Lieferketten eingestuft. US-Präsident Donald Trump hatte zudem in einem Beitrag in den sozialen Medien angeordnet, dass alle Regierungsbehörden die Nutzung der Künstlichen Intelligenz von Anthropic einstellen sollten.
Die US-Regierung hatte Anthropic noch als Risiko für die nationale Sicherheit eingestuft. Jetzt sitzen beide Seiten wieder am Verhandlungstisch – wegen einer KI, die Banken und Behörden in Alarmbereitschaft versetzt.
