Deepfake Kennzeichnung: Pflichten nach EU AI Act 2026

Deepfake Kennzeichnung bezeichnet die gesetzliche Pflicht, KI-generierte oder KI-manipulierte Video-, Audio- und Bildinhalte als synthetisch zu deklarieren. Die Rechtsgrundlage ist Artikel 50 der KI-Verordnung (EU AI Act), verbindlich ab dem 2. August 2026. Unternehmen mit hohem Bewegtbild-Volumen müssen Deepfakes, KI-Avatare und synthetische Stimmen maschinenlesbar und für Nutzer sichtbar kennzeichnen – bei Verstoß drohen Bußgelder bis 15 Mio. EUR oder 3 % des weltweiten Jahresumsatzes. Dieser Artikel liefert die rechtlichen Definitionen, konkrete Kennzeichnungsanforderungen, Formulierungsbeispiele und die operativen Compliance-Schritte, die Content-Teams jetzt brauchen.

Was ist ein Deepfake im Sinne der KI-Verordnung?

Ein Deepfake ist nach Art. 3 Nr. 60 KI-VO ein durch ein KI-System erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der realen Personen, Orten oder Ereignissen ähnelt und fälschlicherweise als echt erscheinen könnte. Die Definition zieht eine klare Grenze: Offensichtlich fiktive Inhalte – ein Comic-Charakter, eine Fantasy-Landschaft – fallen nicht darunter. Entscheidend ist die Verwechslungsfähigkeit mit der Realität. Für Unternehmen, die KI-Avatare in Erklärvideos einsetzen oder synthetische Stimmen für Podcasts nutzen, ist diese Grenze operativ relevant, weil sie bestimmt, ob eine Kennzeichnungspflicht greift oder nicht.

Wer KI im Unternehmen einsetzt, ohne die Nutzung zu ordnen, verlagert das Risiko nicht, er vergrößert es. Schatten-KI – also Mitarbeitende, die auf eigene Faust Tools verwenden, an Richtlinien und Datenschutz vorbei – ist kein Kavaliersdelikt, sondern eine offene Flanke, die irgendwann jemand findet. Wie sich KI-Nutzung mit Audit, verbindlichen Richtlinien und sicheren Integrationen auf DSGVO-konformen Boden bringen lässt, zeigt Crispy Content® im Bereich KI-Governance und Compliance. Der Punkt ist nicht, Kontrolle um der Kontrolle willen auszuüben – der Punkt ist, ein Versprechen halten zu können: dass die eingesetzte KI tut, was sie soll, und nichts preisgibt, was sie nicht darf.

Deepfake vs. synthetischer Inhalt – die Abgrenzung

Synthetischer Inhalt ist der Oberbegriff: jeder durch ein KI-System erzeugte Output, ob Text, Bild, Audio oder Video. Ein Deepfake ist eine Untergruppe davon – täuschend echt und auf reale Referenzen bezogen. Die Unterscheidung ist keine akademische Übung, sondern bestimmt den Pflichtenumfang. Art. 50 Abs. 2 KI-VO adressiert synthetische Inhalte generell mit einer maschinenlesbaren Markierungspflicht. Art. 50 Abs. 4 verschärft für Deepfakes: Hier kommt die sichtbare Offenlegung gegenüber dem Endnutzer hinzu. KI-Avatare und synthetische Stimmen fallen unter beide Kategorien, sobald sie fotorealistisch auftreten oder existierende Personen nachahmen.

Welche Inhalte fallen unter den Deepfake-Tatbestand?

Die Verordnung erfasst vier Kernkategorien, die für Unternehmenskommunikation unmittelbar relevant sind:

• KI-generierte Videos mit realen Personen: Ein Schulungsvideo, in dem ein CEO per KI „spricht", obwohl die Aufnahme synthetisch ist, erfüllt den Tatbestand.
• Synthetische Stimmen, die existierende Sprecher nachahmen: Voice Cloning eines Markenbotschafters für einen Werbespot fällt unter die Deepfake-Definition.
• Fotorealistische KI-Bilder realer Szenarien: Ein KI-generiertes Produktfoto, das eine reale Fabrikhalle simuliert, ist kennzeichnungspflichtig.
• KI-Avatare als menschliche Repräsentanten: Sobald ein Avatar so gestaltet ist, dass ein durchschnittlicher Betrachter ihn für einen echten Menschen halten könnte, greift Art. 50 Abs. 4.

Artikel 50 KI-Verordnung: Die Transparenzpflichten im Detail

Art. 50 unterscheidet vier Pflichtenkreise: interaktive KI-Systeme (Abs. 1), synthetische Inhalte generell (Abs. 2), Deepfakes im engeren Sinne (Abs. 4 Var. 1) und öffentlich relevante KI-generierte Texte (Abs. 4 Var. 2). Für Unternehmen mit Bewegtbild-Produktion sind Abs. 2 und Abs. 4 die operativ entscheidenden Normen. Die Pflichten treffen zwei unterschiedliche Adressaten – Anbieter und Betreiber – mit jeweils eigenen Anforderungen an Technik und Sichtbarkeit.

Pflichten für Anbieter – maschinenlesbare Kennzeichnung

Anbieter von KI-Systemen, die synthetische Inhalte erzeugen, müssen ihre Outputs in einem maschinenlesbaren Format als künstlich erzeugt markieren. Die technische Lösung muss vier Kriterien erfüllen: wirksam, interoperabel, robust und zuverlässig. In der Praxis bedeutet das den Einsatz von Standards wie C2PA-Content-Credentials oder digitalen Wasserzeichen, die auch nach Komprimierung, Formatkonvertierung oder Screenshot erhalten bleiben. Die Europäische Kommission verweist im Code of Practice explizit auf C2PA als Referenzstandard. Anbieter, die Videogenerierungs-Tools oder Voice-Cloning-Software vertreiben, tragen diese Pflicht unabhängig davon, wofür ihre Kunden die Outputs verwenden.

Pflichten für Betreiber – sichtbare Offenlegung gegenüber Nutzern

Betreiber – also Unternehmen, die KI-Tools einsetzen und deren Outputs veröffentlichen – müssen Deepfakes gegenüber dem Endnutzer offenlegen. Der Zeitpunkt ist klar definiert: spätestens bei erster Wahrnehmung des Inhalts. Die Form muss klar, eindeutig und barrierefrei sein. Ein versteckter Metadaten-Eintrag allein reicht für Betreiber nicht aus; die Kennzeichnung muss für den durchschnittlichen Nutzer ohne technische Hilfsmittel erkennbar sein. Wer ein KI-generiertes Video auf der Unternehmenswebsite einbettet, braucht also sowohl die maschinenlesbare Markierung (vom Anbieter geliefert oder selbst ergänzt) als auch eine sichtbare Einblendung.

Tabelle: Anbieter- vs. Betreiberpflichten nach Art. 50 KI-VO

KI-Avatar rechtssicher einsetzen: Anforderungen an virtuelle Sprecher

Ein KI-Avatar ist rechtssicher einsetzbar, wenn drei Bedingungen gleichzeitig erfüllt sind: Die Kennzeichnung erfolgt vor oder bei der ersten Interaktion, der Avatar kann nicht mit einer realen Person verwechselt werden, und die technische Markierung ist im Dateiformat hinterlegt. Fehlt eine dieser drei Komponenten, entsteht ein Compliance-Risiko. Die Kontrollfrage, die jedes Content-Team vor Veröffentlichung beantworten muss: Würde ein durchschnittlicher Betrachter diesen Avatar für einen echten Menschen halten?

Wann gilt ein KI-Avatar als Deepfake?

Die Einordnung folgt einem Stufenmodell. Ist der Avatar einer realen Person nachempfunden – etwa dem CEO oder einem bekannten Branchenexperten –, greift die Deepfake-Kennzeichnungspflicht nach Art. 50 Abs. 4 ohne Diskussion. Ist der Avatar fiktiv, aber fotorealistisch, liegt eine Grauzone vor: Die Verordnung spricht von Inhalten, die „fälschlicherweise als echt erscheinen könnten". In der Praxis empfiehlt sich hier die Kennzeichnung, weil das Risiko einer behördlichen Einstufung als Deepfake den Aufwand der Kennzeichnung bei weitem übersteigt. Stilisierte, offensichtlich künstliche Avatare – etwa mit übertriebenen Proportionen oder Comic-Ästhetik – fallen nicht unter den Tatbestand.

Formulierungsbeispiele für KI-Avatar-Kennzeichnung

Drei Formate decken die gängigen Einsatzszenarien ab:

• Video-Intro: „Die Person in diesem Video ist ein KI-generierter Avatar."
• Webseiten-Overlay: „Dieser Sprecher ist vollständig KI-erzeugt."
• Metadaten-Tag: C2PA-Content-Credential mit dem Feld ai_generated: true und der Angabe des verwendeten Generierungssystems.

Die Formulierung muss sachlich und unmissverständlich sein. Euphemismen wie „digital unterstützt" oder „virtuell optimiert" erfüllen die Anforderung der Klarheit nicht.

Synthetische Stimme kennzeichnen: Audio-Deepfakes in der Unternehmenskommunikation

Synthetische Stimmen – KI-generierte Sprachausgaben, die menschliche Stimmen nachahmen oder vollständig neu erzeugen – unterliegen der Kennzeichnungspflicht nach Art. 50 Abs. 2 (Anbieter) und Abs. 4 (Betreiber), sobald sie in öffentlich zugänglichen Medien eingesetzt werden. Die Pflicht greift unabhängig davon, ob die Stimme eine existierende Person imitiert oder ein rein synthetisches Stimmprofil nutzt. Entscheidend ist, ob der Hörer die Stimme für eine menschliche halten könnte.

Deepfake Audio: Rechtliche Vorgaben für Podcasts, Werbung und Hotlines

Die Anforderungen variieren je nach Einsatzkontext:

• Podcast mit synthetischer Stimme: Akustischer Hinweis zu Beginn jeder Episode plus Kennzeichnung in den Metadaten des RSS-Feeds. Der Hinweis muss vor dem inhaltlichen Beginn stehen, nicht im Abspann.
• Telefonhotline mit KI-Stimme: Hier greift zusätzlich Art. 50 Abs. 1 – der Nutzer muss vor Gesprächsbeginn darüber informiert werden, dass er mit einem KI-System interagiert.
• Werbung mit geklonter Prominentenstimme: Doppelte Pflicht – Deepfake-Kennzeichnung nach Art. 50 Abs. 4 und persönlichkeitsrechtliche Einwilligung der betroffenen Person nach nationalem Recht.

Tabelle: Deepfake-Bedrohungslage für Unternehmen

Deepfake Compliance: Bußgelder, Ausnahmen und Dokumentationspflichten

Verstöße gegen die Transparenzpflichten aus Art. 50 KI-VO werden nach Art. 99 Abs. 4 mit Geldbußen von bis zu 15 Mio. EUR oder 3 % des weltweiten Jahresumsatzes sanktioniert – je nachdem, welcher Betrag höher ist. Die Sanktionshöhe liegt damit auf dem Niveau der DSGVO-Bußgelder für schwere Verstöße. Ausnahmen existieren, sind aber eng gefasst: Sie gelten für künstlerische, satirische oder fiktionale Inhalte sowie für Inhalte unter dokumentierter redaktioneller Verantwortung.

Wann entfällt die Kennzeichnungspflicht?

Drei Ausnahmetatbestände definiert die Verordnung:

• Offensichtlich künstlerische, satirische oder fiktionale Werke: Ein Spielfilm mit KI-generierten Spezialeffekten fällt nicht unter die Pflicht, solange der fiktionale Charakter für das Publikum erkennbar ist.
• KI als Hilfsfunktion ohne wesentliche Veränderung: Rechtschreibkorrektur, automatische Farbkorrektur oder Rauschunterdrückung erzeugen keinen kennzeichnungspflichtigen Output.
• Redaktionelle Kontrolle mit dokumentierter Verantwortungsübernahme: Bei KI-generierten Texten entfällt die Pflicht, wenn eine natürliche Person die redaktionelle Verantwortung übernimmt und dies dokumentiert ist.

Die Ausnahmen sind restriktiv auszulegen. „Wir haben das Video redaktionell freigegeben" reicht nicht – die Dokumentation muss nachweisen, wer wann welche inhaltliche Prüfung vorgenommen hat.

Dokumentation und interne Prozesse für Deepfake-Compliance

Compliance ohne Prozess ist Zufall. Drei Elemente bilden das Minimum:

• Zentrales KI-Verzeichnis: Jedes Content-System, das synthetische Inhalte erzeugt, wird mit Einsatzzweck, Output-Typ und Kennzeichnungsstatus erfasst.
• Definierte Rollen: Ein AI-Verantwortlicher im Content-Team entscheidet über Kennzeichnungspflicht und prüft die technische Umsetzung vor Veröffentlichung.
• Prüfprotokoll: Für jeden nicht gekennzeichneten Inhalt muss dokumentiert sein, warum eine Ausnahme greift – mit Verweis auf den konkreten Ausnahmetatbestand.

Tabelle: Bußgeldstufen nach Art. 99 KI-VO

Deepfake und Reputation: Warum reputationssensible Branchen besonders betroffen sind

Branchen mit hoher öffentlicher Sichtbarkeit tragen ein überproportionales Risiko durch nicht gekennzeichnete oder missbräuchlich eingesetzte Deepfakes. 42,5 % aller KI-gestützten Betrugsversuche zielen auf den Finanzsektor. Das Risiko ist dabei doppelt: Einerseits können Dritte Deepfakes gegen ein Unternehmen einsetzen – etwa ein gefälschtes CEO-Statement, das Aktienkurse bewegt. Andererseits entsteht Reputationsschaden, wenn ein Unternehmen selbst synthetische Inhalte veröffentlicht, ohne sie zu kennzeichnen, und dies öffentlich wird.

68 % der Verbraucher befürchten Täuschung durch synthetische Inhalte. Proaktive Kennzeichnung ist deshalb kein reiner Compliance-Akt, sondern ein Vertrauenssignal. Wer transparent macht, dass ein Erklärvideo einen KI-Avatar nutzt, demonstriert Kontrolle über die eigene Kommunikation. Wer es verschweigt und erwischt wird, demonstriert das Gegenteil. Die Rechnung ist einfach: Der Reputationsschaden eines öffentlichen Kennzeichnungsverstoßes übersteigt die Kosten der Implementierung um Größenordnungen.

Tabelle: Risikoprofil nach Branche

Deepfake Bewegtbild Unternehmen: Kennzeichnung in der Praxis umsetzen

Unternehmen mit hohem Bewegtbild-Volumen – ab 50 Videos pro Quartal aufwärts – benötigen standardisierte Workflows, die Kennzeichnung bereits in der Produktion verankern. Wer die Kennzeichnung erst in der Distribution nachrüstet, erzeugt Fehlerquellen, Doppelarbeit und Lücken. Der Produktionsprozess selbst muss den Kennzeichnungsschritt enthalten, so wie ein Freigabeprozess den Korrekturschritt enthält.

Technische Umsetzung: Wasserzeichen, Metadaten, Overlay

Drei Ebenen der Kennzeichnung greifen ineinander:

• Maschinenlesbar: C2PA-Content-Credentials werden bei der Videogenerierung in die Datei eingebettet. Sie enthalten Informationen über das verwendete KI-System, den Zeitpunkt der Erzeugung und den Typ des Inhalts.
• Sichtbar: Eine Texteinblendung zu Beginn des Videos oder ein dauerhaftes Overlay in der Ecke. Die Einblendung muss mindestens drei Sekunden stehen und in einer Schriftgröße erscheinen, die auf dem kleinsten üblichen Wiedergabegerät lesbar ist.
• Audio: Ein akustischer Hinweis vor dem inhaltlichen Beginn plus ein Metadaten-Tag im Audiostream.

Formulierungsbeispiele für verschiedene Formate

• Video: „Dieses Video enthält KI-generierte Inhalte."
• Social-Media-Post mit KI-Bild: „Bild erstellt mit Unterstützung von KI."
• Podcast: „Hinweis: Diese Stimme wurde synthetisch erzeugt."

Die Formulierungen sind bewusst kurz und sachlich. Sie beschreiben den Sachverhalt, ohne zu werten. Kreative Umschreibungen wie „mit digitaler Magie erstellt" verfehlen die Anforderung der Eindeutigkeit.

Rechenbeispiel: Ein Unternehmen produziert 200 Videos pro Quartal. Bei 50 Mio. EUR Jahresumsatz beträgt das maximale Bußgeldrisiko 1,5 Mio. EUR (3 %). Die Implementierung eines C2PA-Workflows kostet einmalig 15.000–40.000 EUR plus laufend 2.000–5.000 EUR monatlich für Tooling. Das ergibt einen ROI der Compliance-Investition von Faktor 37–100 gegenüber dem Bußgeldrisiko. Die Zahlen sprechen nicht für Abwarten.

Tabelle: Kennzeichnungsformate im Überblick

Deepfake-Regulierung 2026 und darüber hinaus: Trends und Entwicklungen

Der EU Code of Practice on Transparency of AI-Generated Content konkretisiert ab 2026 die Umsetzung von Art. 50. Das Europäische Büro für Künstliche Intelligenz (AI Office) koordiniert die Ausarbeitung unter Beteiligung von Anbietern, Betreibern und Zivilgesellschaft. Der Code of Practice ist formal freiwillig – aber wer ihm folgt, kann im Bußgeldverfahren nachweisen, dass die Umsetzung dem Stand der Technik entspricht. Wer ihn ignoriert, trägt die Beweislast selbst.

Vier Entwicklungen zeichnen sich ab:

• Code of Practice als De-facto-Standard: Was als freiwilliges Instrument beginnt, wird durch behördliche Praxis zur Benchmark. Vergleichbar mit der DSGVO-Zertifizierung, die formal freiwillig, praktisch aber erwartbar ist.
• Deepfake-Erkennung als Cybersecurity-Disziplin: Der Markt für Detection-Tools wächst um 42 % jährlich. Unternehmen werden Deepfake-Erkennung in ihre Security-Stacks integrieren, nicht nur in ihre Content-Workflows.
• Verschärfung bei Echtzeit-Deepfakes: Live-Streaming und Videokonferenzen mit synthetischen Teilnehmern sind der nächste Regulierungsfokus. Die technische Kennzeichnung in Echtzeit ist ungelöst – hier wird nachreguliert.
• Konvergenz mit DSA und nationalen Mediengesetzen: Der Digital Services Act verpflichtet Plattformen bereits zur Kennzeichnung KI-generierter Inhalte. Die KI-VO ergänzt diese Pflicht auf Erzeuger- und Betreiberseite. Nationale Mediengesetze werden folgen.

Eine dokumentierte Deepfake-Compliance-Strategie schützt Reputation und Budget. Wer die Umsetzung nicht intern stemmen will, kann sie mit einer spezialisierten Kommunikationsagentur wie Crispy Content® entwickeln.

Tabelle: Zeitplan der KI-Verordnung – relevante Fristen

Deepfake-Kennzeichnung als strategische Pflicht für Bewegtbild-Unternehmen

Die Deepfake-Kennzeichnungspflicht nach Art. 50 KI-VO ist keine juristische Formalität, sondern ein operativer Eingriff in Content-Produktion und Distribution. Die Mechanik ist klar: maschinenlesbare Markierung plus sichtbare Offenlegung, dokumentiert in einem internen Verzeichnis, verantwortet durch eine definierte Rolle. Unternehmen mit hohem Bewegtbild-Volumen, die jetzt standardisierte Prozesse implementieren, vermeiden Bußgelder von bis zu 15 Mio. EUR, schützen ihre Markenreputation und positionieren sich gegenüber Stakeholdern als vertrauenswürdig. Methoden geben Garantien – auch hier.

Quellen

Europäisches Parlament / Rat der EU (2024): Verordnung (EU) 2024/1689 (KI-Verordnung / AI Act), Artikel 50 – Transparenzverpflichtungen für Anbieter und Betreiber bestimmter KI-Systeme. URL: https://artificialintelligenceact.eu/de/article/50/ (Zugriff am 20.07.2026).

Europäische Kommission (2026): Code of Practice on Transparency of AI-Generated Content. URL: https://digital-strategy.ec.europa.eu/en/policies/code-practice-ai-generated-content (Zugriff am 20.07.2026).

HÄRTING Rechtsanwälte (2025): Transparenzpflichten in der KI-Verordnung (Art. 50): KI-Inhalte richtig kennzeichnen. URL: https://haerting.de/wissen/transparenzpflichten-in-der-ki-verordnung/ (Zugriff am 20.07.2026).

Gerrit Grunert

Gerrit Grunert ist Gründer und CEO von Crispy Content®. 2019 veröffentlichter er das bei Springer Gabler erschienene Standard-Werk "Methodisches Content Marketing" sowie die Online-Kurs-Serie "Making Content". Privat ist Gerrit ein leidenschaftlicher Gitarren-Sammler, liest gern Bücher von Stefan Zweig und hört Musik von vorgestern.