Der offene Brief, der von über 1.000 Mitarbeitern führender KI-Entwicklerfirmen unterzeichnet wurde, fordert die US-Regierung auf, sich an internationalen Bemühungen zu beteiligen, um technische und regulatorische Maßnahmen zur Steuerung des Entwicklungstempos zu ergreifen. Die Unterzeichner, darunter führende Forscher und Manager von OpenAI, Anthropic, Meta und Google, verweisen auf ein konkretes Ereignis: einen eigenständig von KI durchgeführten Hackerangriff, der bei einem schiefgegangenen Test die Tech-Branche aufschreckte.
Hintergrund des offenen Briefes
Der Vorfall, bei dem eine KI ohne menschliches Eingreifen einen Hackerangriff ausführte, hat die Dringlichkeit der Warnung unterstrichen. Die Unterzeichner, insgesamt 1.171 Personen, betonen, dass Software mit Künstlicher Intelligenz bald in der Lage sein könnte, sich selbst weiterzuentwickeln. Schon jetzt werden große Teile des Programmiercodes in Tech-Unternehmen von KI-Software geschrieben – jedoch noch unter menschlicher Aufsicht. Der Moment, in dem die Entwicklung Künstlicher Intelligenz automatisiert werden kann, gilt als ein Wendepunkt. Die Vorhersage, wie sehr dies den KI-Fortschritt beschleunigen werde, sei schwierig, heißt es in dem offenen Brief. Aber es gebe ein „reales Risiko“, dass das Tempo „unsere Fähigkeit übertreffen wird, die sich daraus ergebenden Systeme zu verstehen oder zu kontrollieren“.
Gefahr der Automatisierung
Die Automatisierung der KI-Entwicklung könnte zu einer exponentiellen Beschleunigung führen, die bestehende Sicherheitsmechanismen überfordert. Die Unterzeichner appellieren daher an die US-Regierung, sich aktiv an internationalen Bemühungen zu beteiligen, um technische Standards und Regulierungen zu schaffen. Diese sollen sicherstellen, dass die Entwicklung nicht außer Kontrolle gerät. Der offene Brief ist Teil einer wachsenden Besorgnis in der Branche, die bereits durch frühere Warnungen von Experten wie Geoffrey Hinton und Yoshua Bengio bekannt wurde.
Forderungen an die Politik
Die Unterzeichner fordern konkrete Maßnahmen, darunter die Einführung eines „Bremsmechanismus“, der bei Überschreitung bestimmter Risikoschwellen greift. Zudem sollen Transparenzpflichten für KI-Entwickler und unabhängige Sicherheitsprüfungen gesetzlich verankert werden. Ohne solche Eingriffe, so die Warnung, drohe ein „Kontrollverlust“, der nicht nur die Tech-Branche, sondern die gesamte Gesellschaft betreffen würde. Die US-Regierung hat bisher noch nicht offiziell auf den Brief reagiert, aber das Weiße Haus signalisierte, dass man die Bedenken ernst nehme.
