Erste Klage von xAI gegen Grok-Nutzer
Elon Musks KI-Startup xAI hat einen Mann aus South Carolina verklagt. Er soll das KI-System Grok missbraucht haben, um Darstellungen sexuellen Kindesmissbrauchs zu erstellen. Die Klage wurde am Dienstag bei einem Bundesgericht in Texas eingereicht, wie Reuters berichtet. Der Mann war bereits im Januar festgenommen worden – wegen des Vorwurfs der sexuellen Ausbeutung Minderjähriger.
Missbrauch der KI zur Erstellung von Deepfakes
Das Startup wirft dem Angeklagten vor, gegen die Nutzungsbedingungen verstoßen zu haben. Er soll nicht-sexuelle Bilder von Erwachsenen und Minderjährigen auf Grok hochgeladen und versucht haben, darauf basierend sexuelle Deepfakes zu generieren. Der Fall gilt als einer der ersten, in dem ein KI-Unternehmen gegen einen Nutzer vorgeht, der die Technologie mutmaßlich zur Erstellung expliziter Inhalte missbraucht hat.
Anfang 2026 wurde bekannt, dass User mit dem Bild-Tool von Grok sexualisierte Deepfakes von Frauen und Minderjährigen erzeugten. Die KI ist in die Plattform X integriert, wo die gefälschten Nacktbilder teilweise direkt gepostet wurden.
Weltweite Untersuchung und Maßnahmen
Auf die Vorwürfe reagierte xAI mit einer weltweiten Untersuchung. Das Unternehmen sperrte Konten und meldete Missbrauchsfälle an das National Center for Missing & Exploited Children (NCMEC). In der Klage heißt es: „Im Jahr 2026 hat der Kläger 52.222 Konten gesperrt und 73.604 Meldungen an das NCMEC erstattet, was zu (mindestens) 244 Festnahmen führte.“
Weitere Klagen gegen xAI
Bereits zuvor waren Betroffene gegen die mutmaßlichen Deepfakes vorgegangen. Drei Minderjährige aus Tennessee verklagten xAI mit dem Vorwurf, Grok habe gefälschte Nacktbilder von ihnen erstellt. Auch Ashley St. Clair, die Mutter eines Sohnes von Elon Musk, erhob ähnliche Vorwürfe. Zudem leitete die EU-Kommission im Januar ein Verfahren gegen die Plattform X ein. Dabei soll geprüft werden, ob das Unternehmen die Risiken vor der Einführung von Grok ausreichend bewertet und angemessene Schutzmaßnahmen getroffen hat.
