Der US-Konzern Anthropic, bekannt als Entwickler der KI-Familie „Claude“, hat überraschend eine globale Pause bei der Entwicklung der leistungsfähigsten KI-Systeme ins Spiel gebracht. Das Unternehmen argumentiert, dass eine Verlangsamung der Entwicklung sogenannter Frontier-KI „wahrscheinlich eine gute Sache“ sei.
Angst vor unkontrollierbaren Fähigkeiten
Hintergrund der Forderung sind die neuesten KI-Modelle, die zunehmend Fähigkeiten zeigen, die sich nach Ansicht der Forscher der menschlichen Kontrolle entziehen könnten. Anthropic betont, dass die Welt die Möglichkeit haben müsse, die Entwicklung vorübergehend zu bremsen, damit Forschung und gesellschaftliche Regeln mit dem rasanten Fortschritt Schritt halten können.
Internationale Zusammenarbeit erforderlich
Gleichzeitig räumt das Unternehmen ein, dass ein solcher Stopp nur funktioniert, wenn alle großen KI-Akteure mitmachen. Besonders die USA und China müssten sich auf gemeinsame Regeln einigen. Würde nur ein einzelnes Unternehmen seine Entwicklung stoppen, könnten Konkurrenten den Vorsprung übernehmen.
Kritik an den Warnungen
Mit seinen Forderungen stößt Anthropic jedoch auf Widerstand. Kritiker werfen dem Unternehmen vor, Risiken bewusst zu dramatisieren und unter dem Deckmantel der Sicherheit vor allem die Entwicklung von Konkurrenten bremsen zu wollen. Dennoch wird die Leistungsfähigkeit solcher Systeme und die damit verbundenen Gefahren auch von der US-Regierung ernst genommen. Das besonders leistungsstarke Modell „Mythos“ wurde wegen seiner Fähigkeiten im Bereich Cybersicherheit bislang nicht für die breite Öffentlichkeit freigegeben und wird nur von ausgewählten Organisationen genutzt.
Trump prüft KI-Modelle
US-Präsident Donald Trump signalisierte zuletzt sogar Gesprächsbereitschaft mit China bei Fragen der KI-Sicherheit. Zudem unterzeichnete er in dieser Woche eine Anordnung, nach der die US-Regierung künftig die leistungsstärksten amerikanischen KI-Modelle vor ihrer Veröffentlichung zunächst überprüfen darf. Ob daraus tatsächlich ein internationaler KI-Stopp entstehen kann, gilt allerdings als äußerst fraglich.
