EU-Parlament beschließt Verbot von KI-Deepfake-Software für sexualisierte Inhalte
Das Europaparlament hat am Donnerstag in Brüssel mit deutlicher Mehrheit für ein Verbot bestimmter KI-Anwendungen gestimmt, die zur Erstellung sexualisierter Deepfake-Bilder und -Videos genutzt werden können. Diese historische Entscheidung markiert einen wichtigen Schritt im Kampf gegen digitale sexualisierte Gewalt und den Schutz der Privatsphäre.
Konkrete Verbotskriterien und rechtliche Grundlage
Die geplante Regelung zielt explizit auf Software ab, die mithilfe künstlicher Intelligenz Bilder und Videos so manipuliert oder generiert, dass sie "sexuell eindeutige Aktivitäten oder intime Körperbereiche einer bestimmbaren Person ohne deren Einwilligung" darstellen. Im Gesetzentwurf wird betont, dass solche Inhalte fundamentale Grundrechte auf Würde und Privatsphäre verletzen und erheblichen psychischen Schaden bei den Betroffenen verursachen können.
Die Abgeordneten argumentierten einstimmig, dass ein ausdrückliches Verbot dieser Technologien dringend geboten sei, um der rasanten Verbreitung solcher Missbrauchsinhalte im Internet wirksam entgegenzutreten. Das Verbot soll in Kraft treten, sobald die endgültige Ausgestaltung durch den EU-Rat beschlossen ist, was voraussichtlich in den kommenden Monaten erfolgen wird.
Reaktion auf konkrete Vorfälle und Grok-Ermittlungen
Die EU reagiert mit dieser Maßnahme auch auf besorgniserregende Vorfälle aus dem Frühjahr 2026, bei denen Nutzer mithilfe des KI-Chatbots Grok von Elon Musk Millionen sexualisierter Bilder von Frauen und Kindern erstellten und auf Plattformen wie X verbreiteten. Dies führte zu:
- Ermittlungen der EU-Kommission gegen Grok
- Temporären Sperrungen des Chatbots in mehreren Mitgliedsstaaten
- Erhöhtem öffentlichen Druck für strengere Regulierung
Experten kritisieren sogenannte Auszieh-Apps bereits seit Jahren, doch die Kontroverse um Grok brachte das Thema einer breiten Öffentlichkeit zu Bewusstsein und beschleunigte die legislativen Prozesse in Brüssel.
Unterschiede zu deutschen Regulierungsplänen
Das EU-Vorgehen unterscheidet sich grundlegend von den nationalen Plänen der deutschen Bundesregierung. Während die EU auf eine technologiebasierte Regulierung setzt, die Softwarehersteller in die Pflicht nimmt, konzentriert sich der Gesetzesentwurf von Bundesjustizministerin Stefanie Hubig (SPD) auf die Erweiterung von Straftatbeständen, die primär die Nutzer solcher Technologien betreffen.
Hubig hatte ihren Gesetzesentwurf nach den Vorwürfen der Schauspielerin Collien Fernandes gegen ihren Ex-Mann Christian Ulmen vorgezogen. Fernandes beschuldigte Ulmen, täuschend echte Fake-Profile von ihr erstellt zu haben, über die er Hunderte Männer kontaktierte und intime Gespräche führte. Ulmens Anwälte wiesen die Vorwürfe als "unwahre Tatsachen" zurück, betonten aber gleichzeitig die Unschuldsvermutung für ihren Mandanten.
Teil umfassender KI-Gesetzreform
Das Deepfake-Verbot ist Teil einer größeren Reform des KI-Gesetzes, das die EU bereits 2024 verabschiedet hatte. Die aktuellen Änderungen sehen neben den Verschärfungen im Bereich sexualisierter Inhalte auch Lockerungen in anderen Bereichen vor:
- Verschiebung von Regeln für KI in Sicherheitsbehörden
- Flexiblere Umsetzung im Gesundheitssektor
- Anpassungen zur Stärkung der europäischen KI-Wirtschaft
Kritiker sehen in diesen Lockerungen ein Aufweichen der ursprünglichen KI-Regulierung, während Befürworter sie als notwendigen Schritt betrachten, um europäische Unternehmen im globalen Wettbewerb nicht zu benachteiligen. Die endgültigen Verhandlungen zwischen Parlament, Kommission und Rat der 27 Mitgliedsstaaten werden in den kommenden Wochen intensiviert.
Diese Entwicklung zeigt, wie die EU versucht, einen ausgewogenen Ansatz zwischen dem Schutz fundamentaler Rechte und der Förderung technologischer Innovation zu finden. Das Verbot sexualisierter Deepfake-Software könnte dabei als Präzedenzfall für weitere Regulierungen im Bereich künstlicher Intelligenz dienen.
