EU-Parlament verbietet sexualisierte Deepfake-KI
Das Europäische Parlament hat einem Verbot von KI-Anwendungen zugestimmt, mit denen sexualisierte Deepfakes erstellt werden können. Eine deutliche Mehrheit von 423 Abgeordneten stimmte in Straßburg für die entsprechende Änderung des europäischen KI-Gesetzes. 57 Parlamentarier lehnten den Vorschlag ab, 174 enthielten sich. Nun fehlt noch die formelle Zustimmung der EU-Staaten. Das Verbot soll ab dem 2. Dezember 2026 vom EU-KI-Amt durchgesetzt werden, das vor zwei Jahren eingerichtet wurde.
Was sind Deepfakes?
Bei Deepfakes werden mithilfe Künstlicher Intelligenz täuschend echte Bild-, Video- oder Tonaufnahmen manipuliert oder erzeugt. Das neue Verbot ergänzt die bestehenden Regeln, indem es sowohl die Nutzer als auch die Anbieter der entsprechenden digitalen Werkzeuge in die Pflicht nimmt. Die an den Verhandlungen beteiligten Abgeordneten betonten, dass das Verbot nicht dazu führen soll, die Erstellung oder Bearbeitung von Bildern unverhältnismäßig einzuschränken.
Was genau verboten sein soll
Das neue Gesetz definiert präzise, was als sexualisierter Inhalt gilt und was nicht. Das Verbot richtet sich gegen KI-Anwendungen, die die Erstellung realistischer Bilder oder Videos von Intimbereichen ermöglichen – insbesondere von Genitalien, Anus, Gesäß oder entblößten weiblichen Brüsten sowie von sexuell eindeutigen Handlungen. Satirische Karikaturen bleiben ausgenommen. Auch nicht-einvernehmliche Bikini-Bilder, wie sie etwa von der KI Grok erstellt und auf X verbreitet wurden, könnten weiterhin erlaubt sein. Das Verbot zielt jedoch ausdrücklich auch auf Inhalte ab, die sexuellen Kindesmissbrauch darstellen.
Verpflichtende Wasserzeichen für KI-Inhalte
Weitere Änderungen am KI-Gesetz sollen der Branche zunächst zusätzliche Pflichten ersparen und die Anwendung von KI in der Wirtschaft durch Regelvereinfachungen erleichtern. Teile des Gesetzes, die das EU-KI-Amt ursprünglich bereits ab August durchsetzen sollte, müssen von Unternehmen wie den Betreibern von ChatGPT, Claude und Co. nun erst ab Dezember 2026 beachtet werden. Spätestens dann müssen Anbieter KI-generierte Inhalte deutlich kennzeichnen – etwa durch Wasserzeichen auf Bildern und Videos.
