Der auf Künstliche Intelligenz spezialisierte US-Konzern Anthropic hat eine weltweite Pause bei der Entwicklung immer leistungsstärkerer KI-Systeme gefordert. Eine globale Verlangsamung der Spitzenforschung im KI-Bereich wäre „wahrscheinlich sinnvoll“, erklärte das in San Francisco ansässige Unternehmen in einem Beitrag auf seiner Website. Anthropic begründet die Forderung mit der Möglichkeit, dass KI-Systeme sich künftig selbst verbessern und weiterentwickeln könnten – ein Phänomen, das als rekursive Selbstverbesserung bekannt ist.
Risiken der Selbstoptimierung
Eine KI, die sich selbst optimiere, wäre „eine bahnbrechende Entwicklung in der Technologiegeschichte“, so Anthropic. Sie könnte enormen Nutzen in Wissenschaft und Gesundheitswesen bringen. Doch eine solche Selbstoptimierung berge auch das Risiko, dass der Mensch die Kontrolle über KI-Systeme verliere. Wenn Systeme in der Lage seien, ihre Nachfolger vollständig selbst zu entwerfen, sei es wichtig, die Systeme zu sichern, zu überwachen und ihr Verhalten steuern zu können.
Zeitplan und Notwendigkeit
Man sei bislang noch nicht so weit, dass KI sich selbst optimieren könne. Diese rekursive Selbstverbesserung sei auch nicht unausweichlich. „Sie könnte jedoch schneller eintreten als von den meisten Institutionen erwartet“, warnt der Konzern. Bei der vorgeschlagenen Entwicklungspause müssten laut Anthropic alle KI-Größen in der Welt mitmachen: Sollte ein einzelnes Unternehmen allein pausieren, würden die Konkurrenten einfach an ihm vorbeiziehen.
Globale Zusammenarbeit erforderlich
„Wir halten es für wünschenswert, dass die Welt die Möglichkeit hat, die Entwicklung hochmoderner KI-Systeme zu verlangsamen oder vorübergehend auszusetzen, damit gesellschaftliche Strukturen und die Forschung zur Ausrichtung der KI mit dem technologischen Fortschritt Schritt halten können“, erklärte Anthropic. Damit eine Pause tatsächlich Wirkung zeigen könnte, müssten sich führende KI-Konzerne in verschiedenen Ländern – allen voran in den USA und China – darauf einigen, ihre Arbeit gleichzeitig zu verlangsamen oder zu pausieren. Dafür müssten Regeln aufgestellt und eingehalten werden, „die für alle überprüfbar wären“.
Hintergrund zu Anthropic
Anthropic ist für seinen Chatbot Claude bekannt, der vor allem von Unternehmen genutzt wird. Zudem arbeitet der Konzern an einem KI-Modell namens Mythos, das Lücken in Cybersicherheitssystemen aufspüren soll. Neben den US-Behörden hofft auch die EU auf einen testweisen Zugriff, um mögliche Risiken auszuloten. Deutsche Verfassungsschützer und Sicherheitspolitiker hatten gewarnt, Kriminelle oder staatliche Akteure könnten Mythos für Cyberangriffe nutzen.
Rechtsstreit mit dem Pentagon
Anthropic steht derzeit in einem Rechtsstreit mit dem US-Verteidigungsministerium. Dabei geht es um die uneingeschränkte militärische Nutzung der KI-Technologie, die Anthropic dem Pentagon verweigert hat. Der Konzern erklärte, er wolle KI nicht zur „Massenüberwachung im Inland“ oder in vollautonomen Waffensystemen einsetzen lassen. Das Pentagon stufte Anthropic daraufhin als „Sicherheitsrisiko in der Lieferkette“ ein, wogegen das Unternehmen sich juristisch wehrt. Am Montag hatte Anthropic seinen Börsengang angemeldet.
