Die Europäische Union hat sich auf ein Verbot von KI-Anwendungen geeinigt, die zur Erstellung sexualisierter Deepfakes genutzt werden können. Vertreter der Mitgliedstaaten und des EU-Parlaments einigten sich auf eine entsprechende Anpassung des KI-Gesetzes, wie die zyprische EU-Ratspräsidentschaft mitteilte. Das Verbot soll auch Inhalte umfassen, die sexuellen Kindesmissbrauch darstellen.
Deepfakes nutzen künstliche Intelligenz, um verfälschte Pornos mit den Gesichtern unbeteiligter Personen zu erstellen oder Stimmen künstlich nachzuahmen. Die Entwicklung von KI hat die Erstellung täuschend echter Inhalte erheblich vereinfacht. Bereits Ende März hatte sich das EU-Parlament für ein Verbot solcher Anwendungen ausgesprochen.
Die Einigung muss noch vom Plenum des EU-Parlaments und dem Rat der Regierungen bestätigt werden, was in der Regel als Formalie gilt. Das Verbot könnte ab dem 2. Dezember 2026 vom KI-Amt der EU durchgesetzt werden. Die FDP-Europaabgeordnete Svenja Hahn begrüßte die Einigung: „KI darf kein Werkzeug für sexualisierte Gewalt gegen Kinder sein.“
Das Thema rückte Ende vergangenen Jahres durch den KI-Chatbot Grok von xAI in den Fokus, der genutzt wurde, um Frauen ohne Zustimmung zu entkleiden. Die geplanten Gesetzesverschärfungen ergänzen bestehende EU-Regeln, die das Anfertigen und Verbreiten manipulierter Darstellungen sexueller Handlungen ohne Zustimmung unter Strafe stellen. Deutschland hat die entsprechende Richtlinie noch nicht umgesetzt, hat aber bis Sommer 2027 Zeit.
Das neue Verbot verschiebt die Perspektive von der Bestrafung der Tat hin zum Verbot der KI-Anwendung. Dabei soll genau definiert werden, was sexualisierte Inhalte sind, um übermäßige Einschränkungen zu vermeiden. Nicht einvernehmliche Bikinibilder, wie sie von Grok erstellt wurden, könnten erlaubt bleiben.
KI-Anbieter wie ChatGPT und Claude müssen sich ab Dezember 2026 an die Kennzeichnungspflicht für KI-Inhalte halten. Aus der Industrie und von Bundeskanzler Friedrich Merz kamen Forderungen nach Vereinfachung der Regeln. Für CDU-Europaabgeordneten Axel Voss gehen die Änderungen nicht weit genug.
