Die Europäische Union plant ein umfassendes Verbot von Künstlicher Intelligenz, die zur Erstellung sexualisierter Deepfakes missbraucht wird. Vertreter der Mitgliedstaaten und des EU-Parlaments einigten sich auf eine entsprechende Änderung des KI-Gesetzes, wie die zyprische EU-Ratspräsidentschaft mitteilte. Ziel ist es, nicht nur die Verbreitung, sondern bereits die Herstellung solcher manipulierter Darstellungen zu unterbinden. Gleichzeitig sollen andere KI-Regeln vereinfacht werden, um das wirtschaftliche Potenzial der Technologie in Europa besser zu nutzen.
Verbot ab Dezember 2026
Die Reform muss noch vom EU-Parlament und dem Rat der Regierungen bestätigt werden, gilt aber als Formsache. Tritt sie in Kraft, wird das Verbot ab dem 2. Dezember 2026 vom KI-Amt der EU durchgesetzt. Dieses wurde vor zwei Jahren eigens geschaffen, um die Einhaltung der KI-Vorschriften zu überwachen. Das Verbot zielt explizit auf Anwendungen ab, die sexuellen Kindesmissbrauch darstellen oder nicht-einvernehmliche sexuelle Inhalte produzieren.
Hintergrund: Deepfakes und ihre Gefahren
Bei Deepfakes werden Gesichter oder Stimmen von Personen künstlich in andere Videos oder Audiodateien eingefügt, sodass es wirkt, als würden sie Dinge tun oder sagen, die nie passiert sind. Durch Fortschritte in der KI-Technologie ist die Erstellung täuschend echter Inhalte deutlich einfacher geworden. Besonders Frauen und Kinder sind von sexualisierten Deepfakes betroffen. Die FDP-Europaabgeordnete Svenja Hahn begrüßte die Einigung: „KI darf kein Werkzeug für sexualisierte Gewalt gegen Kinder sein.“
Grok-Skandale und die deutsche Debatte
Auf EU-Ebene rückte das Thema Ende 2025 durch den KI-Chatbot Grok in den Fokus. Nutzer befahlen der KI, Frauen in Bildern zu entkleiden, woraufhin das Unternehmen xAI die Funktion einschränkte. An Silvester entschuldigte sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenageralter in sexualisierten Outfits erstellt zu haben. In Deutschland gewann die Debatte über digitale Gewalt im März 2026 an Dringlichkeit, als Collien Fernandes im SPIEGEL Vorwürfe gegen ihren Ex-Mann Christian Ulmen erhob. Sie wirft ihm vor, sie „virtuell vergewaltigt“ zu haben, indem er Fake-Profile erstellte und sexuelle Chats führte. Ulmen weist die Vorwürfe zurück, und es gilt die Unschuldsvermutung. Die breite Berichterstattung führte zu Demonstrationen und Forderungen nach besserem Schutz für Opfer.
Deutschland säumig bei EU-Richtlinie
Bereits seit Mai 2024 gilt eine EU-Richtlinie, die das Anfertigen und Verbreiten manipulierter sexueller Darstellungen unter Strafe stellt. Deutschland hat diese jedoch noch nicht in nationales Recht umgesetzt, hat dafür aber noch bis Sommer 2027 Zeit. Justizministerin Stefanie Hubig (SPD) kündigte Verschärfungen im Strafrecht und mehr Rechte für Geschädigte an. Das neue EU-Verbot wechselt die Perspektive: Statt nur die Tat zu bestrafen, wird nun das Werkzeug – die KI-Anwendung – verboten. Verhandlungsteilnehmer betonen, dass die Erstellung oder Manipulation von Bildern nicht übermäßig eingeschränkt werden soll. Nicht-einvernehmliche Bikini-Bilder, wie sie von Grok erstellt wurden, könnten erlaubt bleiben. Das Gesetz definiert genau, was sexualisierte Inhalte sind.
