Deepfakes

Worum geht's?

Täuschend echte Videos, KI-Influencer auf Instagram oder Bilder von Ereignissen, die nie stattgefunden haben: Deepfakes gehören längst zum Alltag und auch Sie haben bestimmt schon einen gesehen. Unternehmen nutzen sie bereits für Werbung, Schulungen oder Social Media. Gleichzeitig wächst das Risiko, dass Nutzer KI-generierte Inhalte nicht mehr als solche erkennen und dadurch getäuscht oder beeinflusst werden. Genau deshalb führt der AI Act neue Transparenzpflichten ein. Doch wann liegt überhaupt ein Deepfake vor und wann müssen Sie KI-Inhalte kennzeichnen? In diesem Artikel erfahren Sie, was ein Deepfake ist und welche Vorgaben Sie bei der Verwendung beachten müssen.

1. Wann liegt überhaupt ein Deepfake vor?

Die für Sie entscheidende Frage: Wann handelt es sich bei Ihrem KI Output um einen Deepfake?

Ein Blick in Art. 3 Nr. 60 KI-VO hilft weiter, denn nach dieser bezeichnet der Ausdruck „Deepfake“

einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.

Aber was bedeutet die Definition genau? Muss es sich um eine Person, einen Gegenstand oder einen Ort handeln, der tatsächlich existiert? Befassen wir uns zum Beispiel mit der fotorealistischen Darstellung eines KI-Influencers. Hier herrscht oft der Glaube, dass es sich nicht um eine wirkliche Person und damit auch um keinen Deepfake handelt, wenn der KI-Influencer frei erfunden ist.

Nach Art. 96 Abs. 1 d) KI-Verordnung hat die EU-Kommission Leitlinien zur Umsetzung der Transparenzpflichten für bestimmte KI-Systeme gemäß Artikel 50 der Verordnung (EU) 2024/1689 („KI-Gesetz“) zu erlassen. Die finalen Leitlinien wurden am 20. Juli 2026 veröffentlicht und konkretisieren die KI-Verordnung insbesondere in Bezug auf die Definition eines Deepfakes, wann und wie eine Kennzeichnung erfolgen muss und welche Ausnahmen gelten, entscheidend. Daneben hat die EU-Kommission am 10. Juni 2026 ergänzend den „Code of Practice on Transparency of AI-Generated Content“ veröffentlicht, der bei der Umsetzung der Kennzeichnungspflicht unterstützen soll.

Die Kommission stellt in ihren Leitlinien klar, dass die Kennzeichnung Risiken wie Identitätsdiebstahl, Täuschung, Desinformation, Manipulation und Betrug senken soll.
Vier Merkmale sind für die Definition eines Deepfakes ausschlaggebend.

1. Zunächst einmal muss der erzeugte Inhalt einem bestehenden Subjekt, also Person, Ort, Ereignis oder Einrichtung, ähneln. Die Ähnlichkeit muss nach den Erwägungsgründen merklich sein, es muss also ein hohes Maß an Ähnlichkeit zwischen dem Deepfake und dem simulierten Subjekt vorliegen.
2. Bestehend bzw. existierend bedeutet, dass Personen, Gegenstände oder Orte in KI erzeugten oder manipulierten Inhalten jemandem oder etwas ähneln müssen, das in der Realität existiert, plausibel existieren kann oder hätte plausibel existieren können.
3. Deepfakes können als simulierte Subjekte nicht nur Personen, sondern auch Gegenstände, Orte, Einrichtungen und Ereignisse darstellen. Ein weiterer spannender Punkt: Personen sind als realistische, menschliche Wesen zu verstehen. Eingeschlossen sind digitale Repliken realer Personen, realistische KI-generierte menschliche Avatare oder Personas sowie persönliche Merkmale oder Ausdrücke wie Bild, Stimme, Verhalten und Darbietungen.
4. Zudem muss der erzeugte Inhalt einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen. Die Echtheit bezieht sich auf den Entstehungsprozess, die Wahrheitsgemäßheit bezieht sich auf den tatsächlichen Wahrheitsgehalt des Inhalts.

Ist Ihr KI-Bild oder -Video ein Deepfake? Die wichtigsten Beispiele im Überblick.

Beispiel: In einer fotorealistischen Darstellung bewirbt ein KI-Influencer ein realistisch dargestelltes Smartphone. Der Influencer ähnelt einem gewöhnlichen Menschen in Aussehen, Sprache, Verhalten und Bewegung, stellt aber keine tatsächlich existierende Person dar.

KI-generiert

Einordnung: Hierbei handelt es sich um einen Deepfake, denn die simulierte Person wirkt täuschend echt und ähnelt einem Menschen, der in der Realität existieren kann. Das realistisch dargestellte Smartphone verstärkt die Gesamtwirkung zusätzlich.

Aber auch Darstellungen eines Ortes, eines Ereignisses oder eines Gegenstands können einen Deepfake darstellen. Voraussetzung ist auch hier, dass die Darstellung etwas ähnelt, das in der Realität existiert, existieren kann oder hätte existieren können.

Stellen Sie sich vor, ein fotorealistisches Bild zeigt, wie der Alexanderplatz in Berlin komplett unter Wasser steht. Der Ort existiert in der Realität und zeigt eine plausible Situation, sodass Sie und auch andere Menschen glauben könnten, dass sich in Berlin eine Naturkatastrophe ereignet hat. Wird die Fälschung nicht erkannt, verbreiten sich im Internet möglicherweise Fake News. Es drohen Gefahren wie Desinformation, aber auch Panik in der Bevölkerung.

KI-generiert

Da der Gegenstand in der Realität existiert und das Szenario nicht völlig unplausibel ist, wirkt das Video täuschend echt auf den Betrachter. Teilen Nutzer das Videomaterial nun im Netz, in den Medien und in den sozialen Netzwerken, kann dies nicht nur Panik verursachen, sondern auch eine Bedrohung für die wirtschaftliche Existenz des Unternehmens darstellen.

Eine Kennzeichnung ist hier also unerlässlich. Aber Achtung! Mit einer Kennzeichnung ist es noch nicht getan. Binden Sie reale Produkte in Deepfake-Videos ein, sollten Sie unbedingt die Rechte der Hersteller beachten. Denn am Logo und Design des im Beispiel angeführten Smartphone-Herstellers bestehen Markenrechte. Da das Szenario als täuschend echt wahrgenommen wird, kann eine irreführende geschäftliche Handlung vorliegen und Sie schaden dem Ruf des Herstellers. Es drohen zudem zivilrechtliche und strafrechtliche Konsequenzen. Prüfen Sie vor der Erstellung eines Inhaltes daher unbedingt, ob die Inhalte rechtlich unbedenklich sind und keine gesetzlichen Vorschriften entgegenstehen.

Denn auch hier gilt: Für den KI-Output sind Sie verantwortlich. Die KI haftet nicht für Fehler.

2. Wann müssen Sie Deepfakes kennzeichnen?

Wie in den Kapiteln zuvor bereits dargestellt, besteht ab dem 2. August 2026 eine Kennzeichnungspflicht für Deepfakes. Kennzeichnen Sie Deepfakes klar, unmissverständlich und in einfacher Sprache. Nutzer müssen den Hinweis direkt und ohne Hilfsmittel erkennen können.

Da die Rechtsprechung englischsprachigen Begriffen eher kritisch gegenübersteht, sollten Sie auf deutsche Bezeichnungen setzen.

Nutzen Sie daher folgende Formulierung:

• “KI-generiert” oder
• “Dieser Inhalt wurde mit KI generiert/manipuliert.”

Bei Bildern sollte die Kennzeichnung direkt in den Inhalt eingebettet werden, es sei denn, es stehen gleichwertige Alternativen zur Verfügung wie beispielsweise eine Benutzeroberflächenüberlagerung. Das Symbol oder Icon sollte an einer angemessenen Stelle wie z. B. in der oberen rechten Ecke eines Bildes oder Videos erscheinen.

Grundsätzlich ist ein weiterer Hinweis in der Bildbeschreibung zwar nicht verpflichtend, allerdings wird dieser empfohlen, um besondere Kontext-Informationen (z.B. Bild nur in Teilen verändert) zur Verfügung zu stellen oder die Barrierefreiheit zu gewährleisten. Bei Live-Videos sollte der Hinweis möglichst durchgehend sichtbar sein. Bei aufgezeichneten Videos empfehlen wir einen Hinweis zu Beginn und optional dauerhaft oder im Abspann. Bei längeren Videos empfiehlt sich ebenfalls ein dauerhaft eingeblendeter Hinweis sowie eine Kennzeichnung in der Videobeschreibung.

Die EU hat zur Kennzeichnung von KI-generierten Inhalten Icons zur Verfügung gestellt. Die Verwendung der Icons ist jedoch nicht verpflichtend. 

Welche Ausnahmen gibt es von der Kennzeichnungspflicht?

Natürlich gibt es auch Ausnahmen bzw. Einschränkungen der Kennzeichnungspflicht. Nach Art. 50 Abs. 4 S. 2 KI-VO gilt die Pflicht zur Kennzeichnung nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist. Art. 50 Abs. 4 S. 3 KI-VO schränkt die Kennzeichnung insofern ein, als dass sie bei offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werken so erfolgen kann, dass sie die Darstellung oder den Genuss des Werkes nicht beeinträchtigt.

Aber wie sieht es mit der Kennzeichnungspflicht aus, wenn Sie ein echtes Foto von sich selbst machen und per KI die Farben und die Beleuchtung anpassen? Die Leitlinien der EU-Kommission enthalten auch hierzu Ausführungen. Grundsätzlich muss im Einzelfall beurteilt werden, wie die Auswirkungen auf die Wahrnehmung der Authentizität und die Wahrhaftigkeit des Inhalts sind.

Allerdings sind rein technische Optimierungen wie die Erweiterung des Hintergrundes, Lichtanpassungen, Verbesserungen der Barrierefreiheit oder eine Rauschunterdrückung für die Wahrnehmung des Betrachters in der Regel von untergeordneter Bedeutung. Auch eine Verpixelung oder das Retuschieren von Falten sind unproblematisch.

Was muss ich außerdem bei der Kennzeichnung beachten?

Nicht entscheidend ist, ob der Ersteller des Bildes oder Videos die Absicht hatte, den Nutzer zu täuschen.

Bei der Frage, ob ein Inhalt einer Person als echt oder wahrheitsgemäß erscheint, ist der Maßstab nicht die Durchschnittsperson, sondern das reale Publikum. Ist es möglich, dass ein älterer Nutzer, ein Kind oder eine Person mit geringer KI-Kompetenz den Inhalt für echt hält, müssen Sie diesen kennzeichnen.

Kurz & knapp: Kennzeichnen Sie Deepfakes im Zweifel lieber großzügig als zurückhaltend.

Allerdings stellen die Leitlinien auch klar, dass eine Irreführung dann nicht vorliegt, wenn der Betrachter gar nicht erwartet, dass der Inhalt authentisch ist. Werden beispielsweise bei der Filmproduktion Hintergrundszenen und Spezialeffekte KI manipuliert oder erzeugt, werden die Inhalte dem Publikum voraussichtlich nicht fälschlicherweise als echt oder wahrheitsgemäß erscheinen.

Der Einsatz von vollständig KI-generierten Schauspielern oder digitalen Repliken realer oder verstorbener Schauspieler kann jedoch die Wahrnehmung des Publikums beeinflussen.

3. Deepfakes in Werbung & Social Media: Was ist erlaubt?

Möchten Sie Deepfakes in der Werbung und auf Social Media Plattformen nutzen, ist Vorsicht geboten. Denn neben Kennzeichnungspflichten aus der KI-Verordnung sollten Sie Markenrechte, Urheberrechte und Persönlichkeitsrechte der betroffenen Personen beachten. Auch das Gesetz gegen den unlauteren Wettbewerb kann schnell eine Rolle spielen, wenn Nutzer getäuscht oder in die Irre geführt werden.

Beispiel: Sie bewerben eine Arztpraxis für plastische Chirurgie. Die folgenden KI-generierten Bilder zeigen, wie eine Schönheitspraxis mithilfe von KI attraktiver dargestellt werden kann. Ihre Kunden gehen davon aus, dass die Praxis wirklich so aussieht wie auf dem rechten Bild. Da sie jedoch so aussieht, wie links dargestellt, werden Ihre Kunden getäuscht.

 KI-generiert 

Fehlt eine Kennzeichnung, kann nicht nur ein Verstoß gegen die KI-VO vorliegen, sondern auch gegen das UWG wegen irreführender Werbung. Auch die Social Media Plattformen sehen Kennzeichnungspflichten für KI-generierte Inhalte vor. Halten Sie sich nicht an diese, drohen Reichweiteneinschränkungen und die Löschung des Beitrags.

4. Ab wann gelten die neuen Regeln für Deepfakes?

Ab dem 2. August 2026 sind Sie nach dem AI Act verpflichtet, Deepfakes zu kennzeichnen. Die Verordnung über künstliche Intelligenz (KI-VO) ist am 1. August 2024 in Kraft getreten. Die Regelungen gelten gestaffelt, d. h., seit dem 2. Februar 2025 sind beispielsweise die Regelungen über KI-Kompetenz für Mitarbeiter anwendbar. Dies bedeutet für Sie, dass eine KI-Schulung für Ihre Mitarbeiter faktisch Pflicht ist.

Der KI-Omnibus soll als Änderungsverordnung in die KI-VO eingreifen und unter anderem den Zeitpunkt der Geltung der Hochrisiko-Pflichten verschieben. Diese sollten eigentlich ab dem 2. August 2026 Anwendung finden.

Für Sie wichtig: Die Pflichten für die Kennzeichnung für Deepfakes verschieben sich nicht.

Neben der Verschiebung der Fristen wird auch der Katalog der verbotenen Praktiken in Art. 5 KI-VO erweitert. Es werden zwei neue Tatbestände aufgenommen, die dem missbräuchlichen Einsatz der Deepfake-Technologie weitere Grenzen setzen sollen.

Hintergrund ist, dass mithilfe von Face-Swapping und anderen KI-Techniken in der Vergangenheit täuschend echte Bild-, Video- und Audiodateien erstellt wurden, um Einzelpersonen wie bekannten Persönlichkeiten oder Politikern Handlungen oder Aussagen zuzuschreiben, die nie von ihnen getätigt wurden. Ein großes Problem stellen zudem nicht einvernehmlich erstellte, intime Deepfakes wie beispielsweise Deepfake-Pornos dar. Daher soll der Einsatz von KI-Systemen, die intime Deepfakes ohne Einwilligung generieren, untersagt werden. Hierzu zählen auch die sogenannten Nudifier-Apps.

5. Fazit

Deepfakes können anhand neuester KI-Technologien schnell und einfach erstellt und für verschiedene Zwecke eingesetzt werden. Allerdings dienen sie nicht immer nur der Unterhaltung, sondern können auch eine echte Bedrohung darstellen. Denn die Inhalte werden von Nutzern als echt oder wahrheitsgemäß empfunden und können gezielt zur Manipulation oder Täuschung des Nutzers eingesetzt werden.

Durch die Kennzeichnungspflicht sollen Grenzen gesetzt und Risiken gesenkt werden. Wir haben Ihnen in den vorangegangenen Kapiteln gezeigt, woran Sie einen Deepfake erkennen können und welche Punkte Sie bei der Kennzeichnung beachten sollten.

Gehen Sie auf Nummer sicher, da es letztlich immer auf den Einzelfall ankommt und kennzeichnen Sie KI-Inhalte daher lieber großzügig als zurückhaltend. Transparenz fördert das Vertrauen der Nutzer und hebt die Qualität Ihrer Arbeit hervor.

Nun haben Sie viel Wissenswertes zum Thema KI und Kennzeichnungspflichten gelesen, aber kennen sich auch Ihre Mitarbeiter in diesem Bereich aus? Verstöße gegen die KI-VO können zu hohen Bußgeldern führen. Buchen Sie jetzt die KI-Schulung unserer Partnerkanzlei Siebert Lexow und sichern Sie sich und Ihr Unternehmen beim Einsatz von KI rechtlich ab.

6. FAQ 

• Zurück zur Übersicht: "Künstliche Intelligenz (KI)"
• Europäische KI-Verordnung (AI-Act)
• Rechtstexte mit ChatGPT erstellen lassen
• Ki & Rechtsberatung