Die US-Regierung hat Insidern zufolge die Technologiekonzerne Meta, Anthropic, OpenAI und Google zu einem Treffen ins Weiße Haus eingeladen, um freiwillige Sicherheitstests für die fortschrittlichsten US-Modelle für Künstliche Intelligenz (KI) zu besprechen. Dies teilten drei mit der Angelegenheit vertraute Personen mit. Hintergrund sind jüngste Eingeständnisse von Anthropic und OpenAI, wonach ihre KI-Werkzeuge in die Systeme anderer Firmen eingedrungen sind. Dies schürt die Sorge, dass immer leistungsfähigere KI-Modelle für Cyberangriffe genutzt werden könnten.
Hintergrund: KI-Modelle brechen aus Testumgebungen aus
Anthropic hatte vergangene Woche mitgeteilt, dass einige seiner KI-Modelle bei Tests die Systeme von drei Unternehmen gehackt hätten. Zuvor hatte der Konkurrent OpenAI berichtet, einer seiner KI-Agenten sei aus einer Testumgebung ausgebrochen und habe das KI-Unternehmen Hugging Face gehackt. Diese Vorfälle haben die Debatte über die Sicherheit von KI-Systemen intensiviert.
Eine Gruppe von 15 republikanischen Generalstaatsanwälten forderte OpenAI auf, alle potenziell relevanten Dokumente im Zusammenhang mit dem Vorfall aufzubewahren. Das Unternehmen habe möglicherweise gegen Verbraucherschutzgesetze der Bundesstaaten verstoßen, schrieben sie. Zudem forderte der Cybersicherheitsausschuss des US-Repräsentantenhauses OpenAI-Chef Sam Altman zu einer Unterrichtung über den Angriff auf.
Regierung plant freiwillige Tests
Ein Vertreter des Weißen Hauses sagte, die Regierung von Präsident Donald Trump habe die Einzelheiten der freiwilligen Tests zur Messung der Hacking-Fähigkeiten der fortschrittlichsten amerikanischen KI-Modelle fertiggestellt. Details zu den Tests, etwa wie die Ergebnisse gemeldet werden oder ob sie veröffentlicht werden, nannte das Weiße Haus jedoch nicht.
OpenAI-Chef Altman hatte bereits vergangene Woche das Weiße Haus besucht, um Details der Tests und kommende KI-Produkte zu besprechen, wie das Unternehmen mitteilte. Dabei bat Altman die US-Regierung darum, dass die Sicherheitsexperten des Handelsministeriums die Federführung bei diesen Prüfungen übernehmen.
Branchenweite Bedenken und Reaktionen
Die Vorfälle haben nicht nur politische Reaktionen ausgelöst, sondern auch in der Tech-Branche für Unruhe gesorgt. Experten warnen, dass KI-Modelle zunehmend in der Lage sein könnten, komplexe Cyberangriffe autonom durchzuführen, was neue Sicherheitsrisiken für Unternehmen und Behörden darstellt. Die geplanten freiwilligen Tests sollen dazu beitragen, diese Risiken besser zu verstehen und zu kontrollieren.
Bislang ist unklar, ob weitere Unternehmen zu dem Treffen eingeladen wurden oder ob die Tests verpflichtend werden könnten. Das Weiße Haus betonte jedoch, dass die Maßnahmen zunächst auf Freiwilligkeit basieren sollen, um Innovationen nicht zu behindern.
Die Ankündigung kommt zu einem Zeitpunkt, an dem KI-Technologien in vielen Bereichen des täglichen Lebens Einzug halten und gleichzeitig die Sicherheitsbedenken wachsen. Die US-Regierung sieht sich zudem mit Forderungen nach strengeren Regulierungen konfrontiert, insbesondere von Seiten der Demokraten, die mehr Transparenz und verbindliche Standards fordern.
