Teenager verklagen Elon Musks KI-Firma wegen sexualisierter Deepfake-Bilder
Drei Teenager aus dem US-Bundesstaat Tennessee haben eine Sammelklage gegen die KI-Firma xAI von Elon Musk eingereicht. Der Vorwurf: Der Chatbot Grok soll ohne ihre Zustimmung gefälschte Nacktbilder und sexualisierte Darstellungen der jungen Frauen erzeugt haben. Die Klägerinnen, von denen zwei noch minderjährig sind, wollen vor einem Bundesgericht in San José erreichen, dass xAI eine Mitverantwortung für diese mit künstlicher Intelligenz generierten Inhalte übernehmen muss.
Details der Klage und Ermittlungen
Laut Berichten der Washington Post ermittelt die Polizei gegen einen Mann, der gezielt Bilder von Jugendlichen mithilfe der KI-Plattform Grok manipuliert haben soll, um gefälschte Nacktaufnahmen oder andere sexualisierte Motive zu produzieren. Einer Klägerin wurde demnach ein Link zu einer Discord-Gruppe zugespielt, in der sexualisierte Bilder von 18 weiteren Minderjährigen verbreitet wurden – viele davon kannte sie von ihrer Schule. Die Inhalte landeten auch in Telegram-Gruppen, die von Pädokriminellen für den Austausch von Missbrauchsdarstellungen genutzt werden.
Seit einem Update des KI-Bots Ende Dezember 2025 konnten Nutzer mit Grok freizügige, teils pornografische Deepfakes erstellen, darunter auch Montagen realer Personen in Bikinis oder sexualisierten Posen. Dies führte zu einer Flut nichtkonsensueller Bilder, ohne dass die Zustimmung der Betroffenen erforderlich war.
Reaktionen von Elon Musk und rechtliche Konsequenzen
Elon Musk hatte anfangs die Erstellung sexualisierter Motive gefördert, doch nach zunehmender Kritik bestritt er Kenntnis von illegalen Inhalten und wies die juristische Verantwortung den Nutzern von Grok zu. Zwar wurden Maßnahmen zur Einschränkung solcher Bilder ergriffen, doch erste Versuche erwiesen sich als unzureichend. Der Druck auf die Plattform wuchs: Französische Ermittler durchsuchten die Niederlassung von X in Paris, zahlreiche Staaten und die Europäische Union leiteten Verfahren ein, und in Ländern wie Malaysia und Indonesien wurde die Plattform zeitweilig gesperrt.
Forderungen der Klägerinnen und rechtliche Schritte
Die Klägerinnen, vertreten durch Anwältin Annika Martin, argumentieren, dass Elon Musk und xAI Grok bewusst so konzipiert hätten, um sexuell eindeutige Inhalte für finanzielle Zwecke zu produzieren, ohne Rücksicht auf die Schäden für Kinder und Erwachsene. Sie fordern neben Schadensersatz in ungenannter Höhe auch, dass xAI bestimmte Geschäftspraktiken untersagt werden. Das Unternehmen selbst hat bisher nicht auf Anfragen von Reuters reagiert.
Dieser Fall unterstreicht die dringende Notwendigkeit, rechtliche Lücken im Umgang mit KI-generierten Deepfakes zu schließen, insbesondere zum Schutz Minderjähriger vor digitaler Gewalt und Missbrauch.
