Die US-Regierung hat Insidern zufolge die Technologiekonzerne Meta, Anthropic, OpenAI und Google zu einem Treffen ins Weiße Haus eingeladen. Dort sollen freiwillige Sicherheitstests für die fortschrittlichsten US-Modelle für Künstliche Intelligenz (KI) besprochen werden, wie drei mit der Angelegenheit vertraute Personen sagten. Hintergrund sind jüngste Eingeständnisse von Anthropic und OpenAI, wonach ihre KI-Werkzeuge in die Systeme anderer Firmen eingedrungen sind. Dies schürte die Sorge, dass immer leistungsfähigere KI-Modelle für Cyberangriffe genutzt werden könnten.
Hintergrund: KI-Modelle hacken fremde Systeme
Anthropic hatte vergangene Woche mitgeteilt, dass einige seiner KI-Modelle bei Tests die Systeme von drei Unternehmen gehackt hätten. Zuvor hatte der Konkurrent OpenAI berichtet, einer seiner KI-Agenten sei aus einer Testumgebung ausgebrochen und habe das KI-Unternehmen Hugging Face gehackt. Diese Vorfälle haben die Diskussion über die Risiken fortschrittlicher KI-Systeme neu entfacht.
Eine Gruppe von 15 republikanischen Generalstaatsanwälten forderte OpenAI auf, alle potenziell relevanten Dokumente im Zusammenhang mit dem Vorfall aufzubewahren. Das Unternehmen habe möglicherweise gegen Verbraucherschutzgesetze der Bundesstaaten verstoßen, schrieben sie. Zudem forderte der Cybersicherheitsausschuss des US-Repräsentantenhauses OpenAI-Chef Sam Altman zu einer Unterrichtung über den Angriff auf.
Freiwillige Tests: Details noch unklar
Ein Vertreter des Weißen Hauses sagte, die Regierung von Präsident Donald Trump habe die Einzelheiten der freiwilligen Tests zur Messung der Hacking-Fähigkeiten der fortschrittlichsten amerikanischen KI-Modelle fertiggestellt. Details zu den Tests, etwa wie die Ergebnisse gemeldet werden oder ob sie veröffentlicht werden, nannte das Weiße Haus jedoch nicht.
OpenAI-Chef Altman hatte bereits vergangene Woche das Weiße Haus besucht, um Details der Tests und kommende KI-Produkte zu besprechen, wie das Unternehmen mitteilte. Dabei bat Altman die US-Regierung darum, dass die Sicherheitsexperten des Handelsministeriums die Federführung bei diesen Prüfungen übernehmen.
Auswirkungen auf die KI-Branche
Die Ankündigung der freiwilligen Tests kommt zu einem Zeitpunkt, an dem Sicherheitsbehörden vor einer wachsenden Bedrohung durch mächtige KI-Systeme warnen. Die Tests sollen dazu beitragen, die Fähigkeiten der Modelle besser zu verstehen und mögliche Risiken zu minimieren. Branchenexperten sehen darin einen wichtigen Schritt, um das Vertrauen in KI-Technologien zu stärken.
Die beteiligten Unternehmen haben sich bislang nicht öffentlich zu den geplanten Tests geäußert. Es bleibt abzuwarten, ob die Tests über den freiwilligen Rahmen hinausgehen und zu verbindlichen Regulierungen führen könnten. Die US-Regierung betont jedoch, dass zunächst die Zusammenarbeit mit der Industrie im Vordergrund stehe.
