Seit diesem Sonntag greifen in der Europäischen Union neue Transparenzpflichten für künstlich erzeugte Inhalte. Wer mit KI generierte Bilder, Videos oder Texte beruflich veröffentlicht, muss künftig klar erkennbar machen, dass es sich um synthetische Inhalte handelt. Ziel ist es, die wachsende Flut an Deepfakes und manipulativen Medien einzudämmen, die in sozialen Netzwerken, in der Werbung und in politischen Kampagnen zunehmend für Verwirrung sorgt.
Die Europäische Union will damit eine bessere Unterscheidung zwischen echten und KI-generierten Inhalten ermöglichen. Gerade bei Deepfakes sieht die Realität so aus, dass viele Menschen sie nicht mehr erkennen können.
Warum die Kennzeichnungspflicht nötig ist
KI-generierte Bilder haben inzwischen eine Qualität erreicht, die sie für das menschliche Auge kaum noch von echten Fotos unterscheidbar macht. Auch Videos und Audiodateien lassen sich mit Hilfe von Algorithmen täuschend echt manipulieren. Die Europäische Union reagiert darauf mit strengeren Vorgaben, die seit dem 2. August 2026 gelten. Ziel ist es, Nutzerinnen und Nutzern im Internet eine verlässliche Orientierung zu geben, ob sie es mit realen oder synthetischen Inhalten zu tun haben.
Wer kennzeichnen muss
Die neuen Regeln gelten ausdrücklich nicht für private Beiträge. Wer auf seinem persönlichen Profil KI-generierte Bilder teilt, muss keine Markierung anbringen. Anders sieht es aus, sobald Inhalte beruflichen oder kommerziellen Zwecken dienen. Dazu zählen laut EU-Verordnung sämtliche Werbemaßnahmen – sowohl online als auch auf Plakaten im öffentlichen Raum. Auch Influencer, die mit ihren Posts Einnahmen erzielen, sind verpflichtet, KI-generierte Inhalte als solche zu kennzeichnen.
Verantwortlich für die Umsetzung sind in erster Linie die Anbieter der KI-Systeme. Das betrifft namhafte Unternehmen wie OpenAI mit seinem Chatbot ChatGPT, Google mit Gemini oder Meta, das hinter Instagram und Facebook steht. Sie müssen sicherstellen, dass ihre Modelle synthetische Inhalte automatisch markieren.
Was genau gekennzeichnet werden muss
Besonderes Augenmerk liegt auf Deepfakes. Das sind Inhalte, die so realistisch wirken, dass sie für Manipulation genutzt werden können. Laut einem Leitfaden der EU müssen Kennzeichnungen bei Deepfake-Videos bereits zu Beginn zu sehen sein und entweder dauerhaft eingeblendet bleiben oder regelmäßig wiederkehren. Bei manipulierten Bildern werden zusätzlich interaktive Elemente empfohlen. So könnte eine Markierung erst erscheinen, wenn man mit der Maus über ein KI-verändertes Gesicht fährt.
Für Audiodateien, etwa KI-generierte Podcasts, sieht der Leitfaden einen gesprochenen Hinweis direkt am Anfang vor. Bei Texten sollen Etiketten über dem Artikel oder nahe der Überschrift platziert werden. Zusätzlich ist vorgesehen, dass in die Dateien maschinenlesbare Wasserzeichen eingebettet werden, damit automatische Systeme die Inhalte als synthetisch erkennen können.
Weitere Auflagen für KI-Anbieter
Das europäische KI-Amt in Brüssel nimmt darüber hinaus große Sprachmodelle unter die Lupe. Es soll überprüfen, ob diese ausreichend gegen Missbrauch geschützt sind und keine eigenständigen Cyberangriffe ausführen. Die Notwendigkeit dafür zeigen Vorfälle in der Vergangenheit: Sowohl der ChatGPT-Entwickler OpenAI als auch das Unternehmen Anthropic mit seinem Chatbot Claude mussten einräumen, dass ihre Software in Testläufen ungeplant andere Unternehmen attackiert hatte.
Künftig sind die Anbieter verpflichtet, Sicherheitsvorkehrungen zu treffen und etwaige Zwischenfälle sofort der EU zu melden.
Bußgelder bis zu 35 Millionen Euro
Verstöße gegen das EU-KI-Gesetz können empfindliche finanzielle Folgen haben. Bei verbotenen KI-Praktiken drohen Bußgelder von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes – je nachdem, welcher Betrag höher ist. Werden Transparenzpflichten missachtet oder Sicherheitsvorkehrungen nicht eingehalten, sind Strafen bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes möglich.
Für bereits bestehende KI-Systeme gibt es eine Übergangsfrist bis zum 2. Dezember 2026. Modelle, die neu auf den Markt kommen, müssen die Vorgaben dagegen sofort erfüllen.
