Deepfake.

Ein Deepfake ist ein mit KI erzeugtes oder verändertes Bild, Video oder Tonstück, das echt wirkt, es aber nicht ist. Die EU-KI-Verordnung definiert den Begriff in Artikel 3 Nummer 60 als „einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde". Für Unternehmen zählt das doppelt: im Marketing, wenn ihr selbst KI-Bilder oder synthetische Stimmen einsetzt, und in der IT-Sicherheit, wenn Angreifer eure Führungskräfte imitieren. Dieser Eintrag ordnet den Gesetzestext ein und ersetzt keine Rechtsberatung.

Was die KI-Verordnung bei Deepfakes verlangt

Wer einen Deepfake erzeugt und einsetzt, muss das offenlegen. Nach Artikel 50 Absatz 4 legen Betreiber offen, dass Bild-, Ton- oder Videoinhalte, die ein Deepfake sind, künstlich erzeugt oder manipuliert wurden. Bei offensichtlich künstlerischen, satirischen oder fiktionalen Werken genügt ein Hinweis, der den Genuss des Werks nicht beeinträchtigt. Laut Absatz 5 muss die Information spätestens bei der ersten Interaktion oder Aussetzung klar erkennbar und barrierefrei sein. Die Anbieter der KI-Systeme kennzeichnen Ausgaben zusätzlich nach Absatz 2 maschinenlesbar.

Der KI-Omnibus hat die Kennzeichnung nicht abgeschafft. Die Änderungsverordnung VO (EU) 2026/1744 hat in Artikel 50 nur Absatz 7 zu den Praxisleitfäden geändert, die Pflichten aus Absatz 1 bis 6 gelten seit dem 2. August 2026. Neu ist eine Übergangsfrist in Artikel 111 Absatz 4: Anbieter von Systemen, die vor dem 2. August 2026 in Verkehr gebracht wurden, müssen Absatz 2 bis zum 2. Dezember 2026 umsetzen. Ebenfalls neu ist ein Verbot in Artikel 5, das ab dem 2. Dezember 2026 KI-Systeme untersagt, die ohne ausdrückliche Zustimmung realistische intime oder sexuelle Darstellungen bestimmbarer Personen erzeugen.

What You Should Keep in Mind at Work

Prüft bei jedem KI-Bild, ob es Wirkliches nachbildet. Eine frei erfundene Illustration ähnelt keiner wirklichen Person und keinem wirklichen Ort. Ein KI-Foto eures echten Standorts mit erfundenen Mitarbeitenden kann dagegen unter die Definition fallen. Mehr dazu unter KI-Kennzeichnungspflicht.

Legt fest, wer über die Kennzeichnung entscheidet. In Projekten sehen wir oft, dass Teams Bild- und Stimmgeneratoren nutzen, ohne dass jemand für den Hinweis zuständig ist. Diese Zuständigkeit gehört in eure KI-Richtlinie.

Rechnet mit Deepfakes als Betrugsmasche. Das BSI beschreibt, dass Angreifer mit der nachgeahmten Stimme einer Führungskraft anrufen könnten, um eine Zahlung auszulösen. Als wichtige Gegenmaßnahme nennt das BSI die Schulung der Personen, die davon betroffen sein könnten.

Häufige Fragen zu Deepfakes

Muss jedes KI-Bild gekennzeichnet werden? Die Offenlegungspflicht der Betreiber nach Artikel 50 Absatz 4 betrifft Deepfakes, also Inhalte, die Wirkliches täuschend echt nachbilden. Mehr dazu in Was die neue KI-Kennzeichnungspflicht für eure Website bedeutet.

Sind KI-Texte Deepfakes? Nein, die Definition umfasst nur Bild, Ton und Video. Für KI-Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren, regelt Artikel 50 Absatz 4 eine eigene Offenlegung, außer ein Mensch hat sie redaktionell geprüft.

Lassen sich Deepfakes zuverlässig erkennen? Laut BSI bieten Gegenmaßnahmen in der Regel keinen vollständigen Schutz. Wer weiß, was generative KI erzeugen kann, schätzt laut BSI die Echtheit eines Inhalts mit Blick auf die Quelle besser ein.

Wie euer Team KI-Bilder und synthetische Stimmen sicher einsetzt und Fälschungen erkennt, üben wir im KI-Workshop.