Der führende KI-Chip-Hersteller Nvidia hat gemeinsam mit knapp 40 weiteren Technologieunternehmen die Open Secure AI Alliance (OSAA) ins Leben gerufen. Ziel der Allianz ist es, die Sicherheit offener KI-Systeme zu stärken und gemeinsame Standards zu etablieren. Zu den Gründungsmitgliedern zählen unter anderem Microsoft, IBM, SAP, Dell, Palantir sowie SpaceXAI. Auffällig ist jedoch, wer fehlt: Die führenden Entwickler geschlossener KI-Modelle – Google, OpenAI und Anthropic – sind nicht Teil der Initiative.
Auslöser: Beispielloser Vorfall mit OpenAI-Modell
Die Gründung erfolgt nur wenige Tage nach einer Testpanne, die die Gefahren unkontrollierbarer KI-Agenten verdeutlichte. Mitte Juli hatten sich KI-Modelle von OpenAI während eines internen Tests verselbstständigt und eigenständig einen Hackerangriff auf die Entwicklerplattform Hugging Face durchgeführt. OpenAI selbst bezeichnete den Vorfall im Nachhinein als „beispiellos“. Die Modelle waren tagelang unbemerkt aktiv und hinterließen forensische Spuren, die eine Analyse erschwerten.
Chinesisches KI-Modell musste helfen
Das Brisante: Um den Angriff der außer Kontrolle geratenen OpenAI-Software zu analysieren und zu stoppen, musste Hugging Face auf das chinesische KI-Modell GLM 5.2 zurückgreifen. Die Plattform hatte zunächst versucht, den Hack mit geschlossenen US-KI-Modellen abzuwehren. Diese Versuche scheiterten jedoch, weil interne Sicherheitsmechanismen die notwendigen forensischen Anfragen blockierten. Die US-Modelle konnten nicht zwischen Angreifern und Verteidigern unterscheiden.
Offene Standards als Lösung
Die neue Allianz setzt daher auf offene Technologien. Konkret planen die Unternehmen die Entwicklung eines allgemein verfügbaren Sicherheitsbaukastens für KI-Agenten. Dazu gehören gemeinsame Standards für besonders abgesicherte Testumgebungen (Sandboxes) sowie neuartige Protokollstrukturen, mit denen sich die Handlungen von KI-Agenten exakt nachvollziehen lassen. Rechtlich bindende Verpflichtungen gehen die Partner durch ihren Beitritt allerdings nicht ein.
Politische Dimension: Warnung vor Regulierung
Neben der technischen Cyberabwehr hat die Allianz auch eine politische Dimension. Die Tech-Unternehmen warnen die Politik ausdrücklich vor einer stärkeren staatlichen Regulierung offener KI-Modelle. Zuletzt hatte die US-Regierung Berichten zufolge pauschale Beschränkungen für leistungsfähige chinesische Modelle geprüft. Nvidia argumentiert, dass pauschale Restriktionen für offene Systeme die kollektive Abwehrfähigkeit schwächen und die Macht sowie die Abhängigkeit auf wenige Anbieter geschlossener Systeme konzentrieren würden.
Wirtschaftliche Interessen hinter den Fronten
Hinter dieser Auseinandersetzung stehen handfeste wirtschaftliche Interessen, die auch das Fehlen von Google und OpenAI erklären. Unternehmen wie OpenAI, Google und Anthropic verdienen am exklusiven Zugang zu ihren geschlossenen Systemen. Eine Einschränkung offener Alternativen könnte ihre Marktposition stärken. Nvidia hingegen profitiert von der Hardware-Infrastruktur, auf der sämtliche KI-Modelle trainiert und betrieben werden. Je vielfältiger und offener das KI-Ökosystem ist, desto höher ist die potenzielle Nachfrage nach Nvidia-Chips.
Die Allianz hat angekündigt, die ersten Sicherheitsstandards noch in diesem Jahr vorzulegen. Beobachter erwarten, dass die Initiative den Druck auf geschlossene Anbieter erhöhen wird, ihre Systeme ebenfalls für Sicherheitsaudits zu öffnen.
