Anthropic deaktiviert KI-Modelle nach Anordnung der US-Regierung
Das US-amerikanische KI-Unternehmen Anthropic hat seine leistungsstärksten Modelle „Mythos 5“ und „Fable 5“ vorübergehend vom Netz genommen. Hintergrund ist eine Verfügung der US-Regierung, die eine Gefährdung der nationalen Sicherheit durch den Zugriff ausländischer Staatsbürger sieht.
Hintergrund der Anordnung
Nach Angaben von Anthropic müssen die Zugriffe auf die Modelle für alle ausländischen Staatsangehörigen gesperrt werden – auch für Personen ohne US-Staatsbürgerschaft, die sich innerhalb der USA aufhalten. Das Unternehmen erklärte: „Diese Anordnung hat zur Folge, dass wir Fable 5 und Mythos 5 für alle unsere Kunden unverzüglich deaktivieren müssen, um die Einhaltung der Vorschriften zu gewährleisten.“ Der Zugriff auf andere Anthropic-Modelle bleibt davon unberührt.
Sicherheitsbedenken und Missbrauchspotenzial
Beide KI-Modelle gelten als besonders leistungsfähig. Sicherheitsexperten und Behörden warnen, dass die Technologie für Cyberangriffe auf kritische Infrastruktur missbraucht werden könnte. Anthropic hatte die Software daher nur mit Einschränkungen freigegeben. Die US-Regierung geht jedoch davon aus, dass sich diese Beschränkungen durch sogenannte Jailbreaks umgehen lassen.
Anthropic hält Anordnung für ungerechtfertigt
Bei einer Demonstration habe das Modell eine kleine Anzahl „bereits bekannter, geringfügiger Schwachstellen“ gefunden – etwas, zu dem auch andere öffentlich verfügbare KI-Modelle in der Lage seien, so das Unternehmen. Anthropic hält die Anordnung für ungerechtfertigt. Zwar solle die Regierung die Möglichkeit haben, gefährliche Anwendungen im Rahmen eines transparenten und fairen Verfahrens zu untersagen, doch: „Diese Maßnahme entspricht diesen Grundsätzen nicht.“
Streit zwischen Anthropic und US-Verteidigungsministerium
Anthropic und die US-Regierung streiten seit Monaten über den Einsatz der KI-Modelle – etwa in der Massenüberwachung von Amerikanern oder in autonomen Waffensystemen. Während Anthropic solche Anwendungen ablehnt, pocht das US-Verteidigungsministerium auf das Recht für „jede rechtmäßige Nutzung“.
Die Deaktivierung der Modelle zeigt die wachsende Spannung zwischen KI-Entwicklern und Sicherheitsbehörden. Während Unternehmen wie Anthropic auf ethische Grenzen achten, drängen Regierungen auf umfassende Nutzungsmöglichkeiten – ein Konflikt, der in den kommenden Jahren weiter an Bedeutung gewinnen dürfte.
