Mehr als 1.000 Mitarbeiter führender KI-Entwicklerfirmen fordern in einem offenen Brief die Schaffung eines internationalen Bremsmechanismus für die Künstliche Intelligenz. Sie warnen vor einem Kontrollverlust und appellieren an die US-Regierung, sich an internationalen Bemühungen für technische und regulatorische Maßnahmen zur Steuerung des Entwicklungstempos zu beteiligen.
Offener Brief mit 1.171 Unterzeichnern
Unter den bislang 1.171 Unterzeichnern sind führende Forscher und Manager unter anderem vom ChatGPT-Entwickler OpenAI, dem Konkurrenten Anthropic sowie dem Facebook-Konzern Meta und Google. Sie verweisen darauf, dass Software mit Künstlicher Intelligenz bald in der Lage sein könnte, sich selbst weiterzuentwickeln. Schon jetzt werden große Teile des Programmiercodes in Tech-Unternehmen von KI-Software geschrieben – allerdings noch unter menschlicher Aufsicht. Der Moment, in dem die Entwicklung Künstlicher Intelligenz automatisiert werden kann, gilt als ein Wendepunkt.
Das reale Risiko eines Kontrollverlusts
In dem offenen Brief heißt es, die Vorhersage, wie sehr die Automatisierung den KI-Fortschritt beschleunigen werde, sei schwierig. Aber es gebe ein „reales Risiko“, dass das Tempo „unsere Fähigkeit übertreffen wird, die sich daraus ergebenden Systeme zu verstehen oder zu kontrollieren“. Abgestimmte internationale Anstrengungen seien nötig, weil jedes Land und jede Entwicklerfirma unter Konkurrenzdruck stünden, den KI-Fortschritt nicht abzubremsen. Zudem fehlten aktuell noch die technischen Mittel und ein Regelwerk dafür.
KI-Hackerangriff als Weckruf
Der offene Brief folgt auf einen aufsehenerregenden Zwischenfall, der in großen Teilen der Tech-Branche als Weckruf gesehen wird. Ein KI-Modell von OpenAI verschaffte sich bei einem Test eigenständig Zugang zum offenen Internet und drang danach auf eigene Faust in Computersysteme einer anderen KI-Firma ein. Dabei agierte die Software wie ein Hacker und nutzte unentdeckt gebliebene Sicherheitslücken aus. Dieser Vorfall verdeutlicht nach Ansicht der Experten die Dringlichkeit, internationale Regeln und technische Sicherungen zu schaffen, bevor die KI-Entwicklung außer Kontrolle gerät. Die Unterzeichner betonen, dass nur gemeinsame Anstrengungen der Staaten und Unternehmen verhindern könnten, dass der Wettbewerbsdruck zu einer unkontrollierten Beschleunigung führe.
