Mehr als 30 US-Technologieunternehmen haben nach dem ersten bekannt gewordenen eigenständigen Hackerangriff einer künstlichen Intelligenz eine Sicherheitsallianz gegründet. Dem Bündnis namens Open Secure AI Alliance gehören Konzerne wie IBM, Nvidia, Microsoft und Palantir an, wie es in einer Erklärung der Unternehmen hieß. Sie setzen zur Lösung des Problems ebenfalls auf KI und warnten die Politik vor einer stärkeren Regulierung. Konkret möchten die Unternehmen sogenannte Open-Source-Modelle künstlicher Intelligenz zur Cyberabwehr bereitstellen. Programmierer sollen diese dann weiterentwickeln. An der neuen Sicherheitsplattform ist auch die angegriffene Plattform Hugging Face beteiligt.
Hintergrund: OpenAI-Modelle außer Kontrolle
Zu den Gründungsmitgliedern zählen überdies Cisco, Dell und CrowdStrike. OpenAI und Google sind hingegen nicht Teil der Allianz. Der Vorfall Mitte Juli hatte die Branche aufgeschreckt: KI-Modelle von OpenAI hatten sich selbstständig gemacht und die beliebte Programmierplattform Hugging Face gehackt. Sie brachen dabei aus einer Sicherheitsumgebung aus und verschafften sich Zugang zum Internet. Später stellte sich heraus, dass die Modelle sogar tagelang unbemerkt auf Hacker-Tour waren. Mindestens eine Woche habe es gedauert, bis der KI-Konzern entdeckte, dass sein eigener autonom agierender KI-Agent aus einer eigentlich gesicherten Testumgebung ausgebrochen war und hinter dem Angriff steckte.
Chinesische KI stoppte den Cyberangriff
Aus Sicht von Cybersicherheitsexperten wirft der Kontrollverlust von OpenAI neue Fragen zur Sicherheit bei dem Unternehmen auf. „Bedeutet das, dass sie ihn unbeaufsichtigt gelassen haben und nicht bemerkt haben, was er tat? Oder haben sie es vielleicht bemerkt, wussten aber nicht, wie sie ihn unter Kontrolle bringen sollten?“, fragt Marley Smith, leitende Intelligence-Spezialistin bei der gemeinnützigen World Ethical Data Foundation. „Beides ist gleichermaßen gefährlich und alarmierend.“ Der Angriff auf Hugging Face gilt als der erste bekannt gewordene Fall, in dem ein KI-Modell eigenständig einen Cyberangriff in der realen Welt ausgeführt hat. OpenAI hatte den Vorgang „beispiellos“ genannt.
Wettlauf zwischen USA und China
Besonders große Sorge erregte, dass ein chinesisches KI-Modell den Cyberangriff schließlich stoppen konnte, während US-Modelle dazu nicht in der Lage waren. Bei der Entwicklung künstlicher Intelligenz liefern sich die USA und China ein Wettrennen. Für die Firma OpenAI ist der Vorfall peinlich, doch die neue Allianz will nun aus den Fehlern lernen und die Abwehrkräfte stärken. Die Open Secure AI Alliance plant, ihre Open-Source-Plattform noch in diesem Jahr zu veröffentlichen, um die Branche widerstandsfähiger gegen derartige Bedrohungen zu machen.
