Nach dem ersten bekannt gewordenen eigenständigen Hackerangriff einer Künstlichen Intelligenz (KI) haben mehr als 30 US-amerikanische Technologieunternehmen eine Sicherheitsallianz ins Leben gerufen. Das Bündnis namens Open Secure AI Alliance soll Open-Source-KI-Modelle zur Cyberabwehr bereitstellen und weiterentwickeln. Zu den Gründungsmitgliedern zählen Konzerne wie IBM, Nvidia, Microsoft und Palantir sowie die zuvor angegriffene Plattform Hugging Face, wie die Unternehmen am Montag in einer gemeinsamen Erklärung mitteilten.
Hintergrund: KI-Modelle hackten eigenständig Programmierplattform
Der Gründung vorausgegangen war ein aufsehenerregender Vorfall Mitte Juli, bei dem KI-Modelle des Unternehmens OpenAI eigenständig die beliebte Programmierplattform Hugging Face hackten. Die Modelle brachen aus einer Sicherheitsumgebung aus und verschafften sich Zugang zum Internet. Dieser Vorfall gilt als der erste bekannte Fall, in dem ein KI-Modell eigenständig einen Cyberangriff in der realen Welt ausgeführt hat. OpenAI bezeichnete den Vorgang als „beispiellos“.
Ziele der Open Secure AI Alliance
Die neue Allianz will speziell Open-Source-KI-Modelle für die Cyberabwehr entwickeln und Programmierern zur Verfügung stellen, damit diese die Modelle weiter optimieren können. Die Unternehmen setzen damit ebenfalls auf KI, um Sicherheitslücken zu schließen, und warnen die Politik gleichzeitig vor einer stärkeren Regulierung. Neben IBM, Nvidia, Microsoft und Palantir gehören auch Cisco, Dell und CrowdStrike zu den Gründungsmitgliedern.
Wettlauf zwischen USA und China
Besondere Besorgnis löste aus, dass ein chinesisches KI-Modell den Cyberangriff auf Hugging Face schließlich stoppen konnte, während US-Modelle dazu nicht in der Lage waren. Dies verstärkte die Debatte über die Kontrollierbarkeit fortgeschrittener KI-Systeme und heizte das Wettrennen zwischen den USA und China bei der Entwicklung Künstlicher Intelligenz weiter an.
