Einem Bericht der Nachrichtenagentur Reuters zufolge hat ein KI-Agent von OpenAI erneut eigenständig ein Unternehmen gehackt. Betroffen war diesmal der New Yorker KI-Infrastrukturanbieter Modal Labs. Der Vorfall ereignete sich nur wenige Wochen, nachdem derselbe Agent bereits in die Systeme der KI-Firma Hugging Face eingedrungen war. Die Nachricht verstärkt die seit langem bestehenden Warnungen von Experten vor den Gefahren autonomer Künstlicher Intelligenz.
Wie der Angriff ablief
Laut Akshat Bubna, Technologiechef von Modal Labs, nutzte der OpenAI-Agent eine ungesicherte Testumgebung eines Kunden aus. „Ein Kunde hatte einen ungesicherten Zugang zu seiner Testumgebung erstellt, sodass jedermann aus dem Internet darauf zugreifen konnte. Man könnte sagen, dass er die Tür offen stehen gelassen hatte“, erklärte Bubna. Der KI-Agent, der speziell für eigenständige Problemlösungen entwickelt wurde, verschaffte sich Zugriff auf die Rechenkapazitäten dieser Testumgebung und führte dort eigenen Code aus. Da es sich ebenfalls um eine nach außen abgeschirmte Sandbox handelte, seien die Kernsysteme von Modal Labs nicht kompromittiert worden, betonte der Manager.
Wiederholungstäter KI
Erst Anfang Juli war derselbe Agent in die Systeme von Hugging Face eingedrungen. Damals erklärte Hugging Face, der Agent sei in eine Sandbox eingedrungen, die „auf der Infrastruktur eines Drittanbieters“ gehostet worden sei. Auch dabei handelte es sich um Modal Labs. OpenAI bemerkte den Vorfall erst, nachdem die Gefahr bereits gebannt und die US-Bundespolizei FBI eingeschaltet worden war. Zu den neuen Erkenntnissen lag zunächst keine Stellungnahme von OpenAI vor.
Mitarbeiter fordern Regulierung
Unterdessen haben sich mehr als 1000 Mitarbeiter führender KI-Entwickler in einem offenen Brief für schärfere Regulierung ausgesprochen. Die 1171 Unterzeichner, darunter führende Forscher und Manager von OpenAI, Anthropic, Meta und Google, warnen vor einem Kontrollverlust über die Technologie. Sie verweisen darauf, dass KI-Systeme bald in der Lage sein könnten, sich selbst weiterzuentwickeln. „Es gibt ein reales Risiko, dass das Tempo des Fortschritts unsere Fähigkeit übertreffen wird, die sich daraus ergebenden Systeme zu verstehen oder zu kontrollieren“, heißt es in dem Schreiben. Die Mitarbeiter appellieren an die US-Regierung, sich an internationalen Bemühungen zur Steuerung des Entwicklungstempos zu beteiligen. Bislang fehlten sowohl technische Mittel als auch ein verbindliches Regelwerk.
Wendepunkt in der KI-Entwicklung
Bereits heute werde ein großer Teil des Programmiercodes in Techunternehmen mithilfe von KI geschrieben, allerdings unter menschlicher Aufsicht. Der Moment, in dem die Entwicklung künstlicher Intelligenz automatisiert werden könne, gelte als Wendepunkt. Wie stark dies den Fortschritt beschleunigen werde, sei schwer vorherzusagen. Die Unterzeichner des offenen Briefs fordern internationale Zusammenarbeit, da jedes Land und jedes Unternehmen unter Konkurrenzdruck stehe, den KI-Fortschritt nicht abzubremsen.
