US-Regierung verlangt Abschaltung von Anthropic-KI
Das US-amerikanische KI-Unternehmen Anthropic hat seine beiden leistungsstärksten Modelle „Mythos 5“ und „Fable 5“ deaktiviert. Hintergrund ist eine Anordnung der US-Regierung, die eine Gefährdung der nationalen Sicherheit sieht, falls ausländische Staatsbürger Zugang zu diesen Systemen erhalten.
Zugangssperre für Nicht-US-Bürger
Laut Anthropic muss das Unternehmen den Zugriff auf die Modelle für alle ausländischen Staatsangehörigen sperren – auch für jene, die sich innerhalb der USA aufhalten. „Diese Anordnung hat zur Folge, dass wir Fable 5 und Mythos 5 für alle unsere Kunden unverzüglich deaktivieren müssen, um die Einhaltung der Vorschriften zu gewährleisten“, teilte das Unternehmen mit. Andere Anthropic-Modelle seien von der Maßnahme nicht betroffen.
Missbrauchsrisiko durch Jailbreak
Beide KI-Modelle gelten als besonders leistungsfähig. Sicherheitsexperten und Behörden warnen, die Technologie könne für Cyberangriffe auf kritische Infrastruktur missbraucht werden. Anthropic hatte die Software daher nur mit Einschränkungen freigegeben. Die US-Regierung geht jedoch davon aus, dass sich diese Beschränkungen durch einen sogenannten „Jailbreak“ umgehen lassen. Bei einer Demonstration habe das Modell eine kleine Anzahl bereits bekannter, geringfügiger Schwachstellen gefunden. Das Unternehmen betont, dass auch andere öffentlich verfügbare KI-Modelle dazu in der Lage seien.
Anthropic hält Anordnung für ungerechtfertigt
Anthropic hält die Anordnung für ungerechtfertigt. Zwar solle die Regierung die Möglichkeit haben, gefährliche Anwendungen im Rahmen eines transparenten und fairen Verfahrens zu untersagen, „diese Maßnahme entspricht diesen Grundsätzen nicht“, so das Unternehmen. Der Streit zwischen Anthropic und der US-Regierung schwelt bereits seit Monaten. Es geht um die Frage, in welchen Bereichen die KI-Modelle eingesetzt werden dürfen – etwa in der Massenüberwachung von Amerikanern oder in autonomen Waffensystemen. Während Anthropic solche Anwendungen ablehnt, pocht das US-Verteidigungsministerium auf das Recht für „jede rechtmäßige Nutzung“.
