Die US-Regierung hat ihre Exportbeschränkungen für die neuesten KI-Modelle des Unternehmens Anthropic nach mehr als zwei Wochen aufgehoben. Ab Mittwoch wird der Zugang zu den Programmen Mythos 5 und Fable 5 wiederhergestellt, wie Anthropic in einer Stellungnahme ankündigte. Zuvor hatte die Regierung verfügt, dass nur US-Amerikaner Zugriff auf die Modelle haben durften, woraufhin Anthropic beide Modelle komplett blockierte.
Hintergrund der Exportbeschränkungen
Die künstliche Intelligenz hinter Mythos 5 ist besonders gut darin, selbst über Jahrzehnte unentdeckte Software-Schwachstellen aufzuspüren. Diese Fähigkeit wurde bisher von US-Behörden und ausgewählten Unternehmen genutzt, um Sicherheitslücken zu schließen. Es bestand jedoch die Sorge, dass die KI in falschen Händen zu einer gefährlichen Cyberwaffe werden könnte. Die Regierung befürchtete einen Missbrauch durch militärische Geheimdienste Chinas, Russlands oder anderer Staaten.
Sicherheitsbedenken und Maßnahmen
Zuvor war es Forschern gelungen, die Sicherheitsvorkehrungen zu umgehen. Die KI deckte nicht nur Schwachstellen auf, sondern erstellte auch passenden Schadcode, um diese auszunutzen. Anthropic bestritt, dass eine Gefahr bestehe. Nach zähen Gesprächen einigten sich Regierung und Unternehmen auf verstärkte Schutzmechanismen. Handelsminister Howard Lutnick verwies in einem Brief darauf, dass Anthropic sich bereit erklärt habe, proaktiv nach Sicherheitsrisiken zu suchen und diese zu beheben.
Anthropics Maßnahmen und Kooperationen
Anthropic hat die Schutzmechanismen inzwischen verstärkt, um sogenannte Jailbreaks zu verhindern. Das Start-up warnte jedoch, es sei „wahrscheinlich unmöglich“, ein KI-Modell vollständig gegen Missbrauch zu schützen. Es bestehe die Gefahr eines universellen Jailbreaks, der „ein ganzes Spektrum schädlicher Verhaltensweisen“ freischalten könnte. Das Unternehmen arbeitet mit Microsoft und Google zusammen, um Missbrauchsversuche zu erkennen und zu blockieren.
Unterschiede zwischen Mythos 5 und Fable 5
Das Mitte Juni veröffentlichte Modell Fable 5 basiert auf der Mythos-Technologie, blockiert jedoch die Cybersicherheits- und Biotechnologie-Fähigkeiten. Mythos 5 ist die volle, nicht öffentliche Version, die nur Behörden und ausgewählten Unternehmen zur Verfügung steht, um Sicherheitslücken in ihren Systemen zu schließen.
Auswirkungen auf Europa und OpenAI
Die Sperre hatte auch Sorgen in Europa ausgelöst. Nach dem Vorgehen gegen Anthropic gewährte der ChatGPT-Entwickler OpenAI Zugang zu seinem neuesten KI-Modell nur für mit der US-Regierung abgestimmte Partner.
Neues Standardmodell Sonnet 5
Anthropic hat zudem Sonnet 5 vorgestellt, das einen Fokus auf agentische Aufgaben haben soll. Laut dem Unternehmen soll es „Pläne erstellen, Tools wie Browser und Terminals nutzen und autonom auf einem Niveau arbeiten, für das noch vor wenigen Monaten größere und teurere Modelle erforderlich waren“. Für Nutzer steht es ab sofort als Standardmodell für die Free- und Pro-Tarife zur Verfügung.
Angespanntes Verhältnis zur US-Regierung
Die Beziehung zwischen Anthropic und der US-Regierung gilt als angespannt. Das Unternehmen riskierte einen Konflikt mit der Trump-Regierung, weil es darauf bestand, dass seine KI-Modelle nicht in autonomen Waffensystemen und zur Massenüberwachung in den USA verwendet werden dürfen. Anthropic verweigert dem US-Verteidigungsministerium die uneingeschränkte Nutzung seiner KI-Modelle. Das Pentagon erklärte Anthropic daraufhin zu einem Lieferkettenrisiko, während der Konkurrenz neue Staatsaufträge in Aussicht gestellt wurden. Eine solche Einstufung kann dazu führen, dass Software des Unternehmens in Regierungsbehörden nur schwer eingesetzt werden kann. Anthropic klagt dagegen.
