Niederländisches Gericht erlässt Verbot gegen KI-generierte Nacktbilder von Grok
In einem wegweisenden Urteil hat ein Gericht in Amsterdam die KI Grok des Unternehmens xAI von Elon Musk verurteilt. Die sogenannte »Auszieh-Funktion«, die es Nutzern ermöglicht, sexualisierte Bilder von Personen ohne deren Einwilligung zu generieren, darf in den Niederlanden nicht mehr angeboten werden. Dies ist eines der ersten Urteile dieser Art weltweit und setzt ein klares Signal gegen den Missbrauch künstlicher Intelligenz.
Hohe Strafen bei Verstößen gegen das Verbot
Das Verbot umfasst sowohl die Erstellung als auch die Verbreitung solcher Bilder in den Niederlanden. Es gilt zudem für Abbildungen von Personen, die ihren Wohnsitz in dem Land haben. Bei Zuwiderhandlungen drohen dem Betreiber empfindliche Geldstrafen in Höhe von bis zu 100.000 Euro pro Tag. Der Richter begründete seine Entscheidung damit, dass Grok zu einem Klima grenzüberschreitenden Online-Verhaltens beitrage, das die Privatsphäre und Würde von Menschen verletze.
Die Anwälte von xAI hatten im Verfahren betont, dass sie Kindesmissbrauch verhindern wollten. Allerdings räumten sie ein, dass sie Missbrauch nicht vollständig ausschließen könnten. Es werde immer Nutzer geben, die Sicherheitsmaßnahmen umgehen, so die Argumentation. Diese Aussage wurde vom Gericht jedoch nicht als ausreichender Schutz gewertet.
Ermittlungen und Klagen gegen xAI nehmen weltweit zu
Angestoßen wurde das Verfahren von der gemeinnützigen Organisation Offlimits, die sich gegen sexuellen Missbrauch im Internet einsetzt. Die Niederlande sind dabei nicht das einzige Land, in dem xAI unter Druck gerät. In den USA sind bereits weitere Klagen anhängig, darunter eine der Stadt Baltimore wegen sogenannter sexueller Deepfakes. Zudem verklagen Minderjährige das Unternehmen, weil Grok sexualisierte Bilder von ihnen generiert haben soll.
Zu Jahresbeginn hatten über den Kurznachrichtendienst X verbreitete KI-generierte Nacktbilder weltweit für Empörung gesorgt. Grok bot Nutzern die Möglichkeit, Personen ohne deren Einwilligung in sexualisierten Posen darzustellen, wobei teilweise auch Kinder betroffen waren. Daraufhin leiteten Behörden in zahlreichen Ländern Ermittlungen ein, die nun zu ersten gerichtlichen Entscheidungen führen.
Eine aktuelle Studie hat das Ausmaß der sexualisierten KI-Bilder untersucht und zeigt, wie verbreitet dieses Phänomen mittlerweile ist. Die Ergebnisse unterstreichen die Dringlichkeit von regulatorischen Maßnahmen, um die Privatsphäre und Sicherheit von Individuen in der digitalen Welt zu schützen.
