KI-Bilder, Videos und Deepfakes – was gilt in der Praxis?

Im vorherigen Teil unserer Serie haben wir erläutert, welche Inhalte grundsätzlich unter die Transparenzpflichten des EU AI Acts fallen können. Besonders häufig betroffen sind Bilder, Videos und sogenannte Deepfakes. 

Gerade diese Inhalte können täuschend echt wirken und sind für Nutzerinnen und Nutzer oft kaum von authentischen Aufnahmen zu unterscheiden. Deshalb widmet der EU AI Act diesem Bereich besondere Aufmerksamkeit.

Update: Seit dem 2. August 2026 sind die Transparenzpflichten aus Artikel 50 EU AI Act tatsächlich anwendbar. Die Europäische Kommission hat inzwischen finale Leitlinien, FAQs und Quick Facts veröffentlicht, außerdem wurde der AI Act durch den sogenannten „Digital Omnibus zur KI" (Verordnung (EU) 2026/1744) an einzelnen Stellen nachjustiert – unter anderem bei den Übergangsfristen für die technische Kennzeichnung. 

Visuelle Inhalte genießen bei vielen Menschen ein hohes Maß an Vertrauen. Ein Foto gilt häufig als Beweis für ein Ereignis, ein Video als authentische Dokumentation.

Moderne KI-Systeme können jedoch innerhalb weniger Sekunden fotorealistische Bilder, täuschend echte Videos oder künstliche Stimmen erzeugen. Für Außenstehende ist häufig nicht mehr erkennbar, ob ein Inhalt tatsächlich aufgenommen oder vollständig künstlich erstellt wurde.

Genau hier setzt Artikel 50 des EU AI Acts an: Nutzerinnen und Nutzer sollen erkennen können, wenn Inhalte durch künstliche Intelligenz erzeugt oder wesentlich verändert wurden.

Wichtig für die Einordnung: Der AI Act verlangt keine pauschale Kennzeichnung jedes KI-generierten Bildes. Die Pflichten greifen zielgerichtet in bestimmten Risikokonstellationen – vor allem dann, wenn ein Inhalt einer realen Person, einem realen Ort oder einem realen Ereignis täuschend ähnlich sieht und dadurch als authentisch missverstanden werden könnte (sogenannte Deepfakes). Wer KI-Bilder erkennbar als gestellte, künstliche oder stilisierte Inhalte einsetzt, bewegt sich häufig außerhalb der strengen Deepfake-Regeln – eine Einzelfallprüfung bleibt aber unerlässlich.

Für die Praxisbeispiele unten ist eine Unterscheidung zentral, die im AI Act durchgehend gilt:

• Anbieter (Provider) sind diejenigen, die ein KI-System entwickeln oder unter eigenem Namen in Verkehr bringen. Sie müssen dafür sorgen, dass generierte Inhalte technisch, maschinenlesbar als KI-generiert markiert werden (z. B. über Metadaten, digitale Wasserzeichen oder kryptografische Herkunftsnachweise).
• Betreiber (Deployer) sind Unternehmen, die ein KI-System im Rahmen ihrer beruflichen Tätigkeit einsetzen – also die meisten Unternehmen, die KI-Bilder für Marketing, Karriereseiten oder Recruiting nutzen. Sie trifft vor allem die Pflicht, Deepfakes im Sinne des Artikel 50 gegenüber der Öffentlichkeit erkennbar offenzulegen.

Für Unternehmen, die KI-Bildgeneratoren lediglich nutzen, ist in der Regel die Betreiberrolle relevant – die technische Markierung ist primär Sache der Tool-Anbieter (z. B. der Anbieter des Bildgenerators).

Viele Unternehmen nutzen inzwischen KI, um Bilder für die Karriereseite oder Social-Media-Kanäle zu erstellen. Beispielsweise werden:

• fotorealistische Mitarbeitende erzeugt,
• Gruppenbilder künstlich erstellt oder
• fehlende Personen per KI ergänzt.

Für Besucherinnen und Besucher ist häufig nicht erkennbar, dass diese Personen gar nicht existieren oder das Bild künstlich entstanden ist.

Rechtliche Einordnung: Entscheidend ist, ob der Eindruck entsteht, es handele sich um reale, existierende Personen bzw. eine reale Aufnahme. Zeigt das Bild frei erfundene, nicht real existierende Personen, liegt regelmäßig kein Deepfake im engeren Sinne vor – gleichwohl kann aus Gründen der Fairness und des Vertrauensschutzes eine freiwillige Kennzeichnung sinnvoll sein, insbesondere wenn Bewerbende oder Kundinnen und Kunden den Eindruck einer echten Belegschaft gewinnen sollen. Werden hingegen reale Mitarbeitende KI-gestützt in Szene gesetzt oder verändert dargestellt, ist die Einordnung als kennzeichnungspflichtiger Inhalt sorgfältig zu prüfen.

Auch Produktbilder werden zunehmend mit KI erstellt. Typische Anwendungsfälle sind:

• Möbel in künstlich erzeugten Wohnräumen,
• Kosmetikprodukte vor KI-generierten Hintergründen,
• Maschinen in virtuellen Produktionshallen oder
• Lebensmittel in künstlich erzeugten Szenen.

Diese Bilder sparen Zeit und Kosten und eröffnen neue kreative Möglichkeiten.

Rechtliche Einordnung: Reine Produktinszenierungen ohne Bezug zu realen Personen, Orten oder Ereignissen fallen nach den nun vorliegenden Leitlinien der EU-Kommission in aller Regel nicht unter die strengen Deepfake-Vorgaben des Artikel 50. Kritisch wird es, wenn ein KI-Bild einen bestehenden, realen Ort (z. B. eine reale Filiale, eine reale Produktionsstätte) täuschend echt nachbildet oder wenn durch die Gestaltung gezielt der Eindruck einer authentischen Fotografie erweckt und dadurch die Verkehrsauffassung relevant getäuscht wird – dann können neben dem AI Act auch lauterkeitsrechtliche Vorgaben (UWG) zur Irreführung greifen.

Gerade im Recruiting setzen Unternehmen zunehmend auf KI-generierte Bilder. Dazu gehören beispielsweise:

• Bewerbende unterschiedlicher Altersgruppen,
• internationale Teams,
• moderne Büros oder
• Arbeitssituationen, die vollständig mit KI erstellt wurden.

Solche Darstellungen können das Employer Branding unterstützen.

Rechtliche Einordnung: Wie bei Praxisbeispiel 1 kommt es darauf an, ob real existierende Personen oder Orte täuschend echt abgebildet werden. Zusätzlich empfiehlt sich hier ein Blick über den AI Act hinaus: Werden mit KI erzeugte, möglicherweise nicht der tatsächlichen Belegschaft entsprechende Bilder verwendet, um gezielt Vielfalt oder Arbeitsbedingungen zu suggerieren, die nicht der Realität entsprechen, kann dies unabhängig von der AI-Act-Kennzeichnungspflicht wettbewerbs- oder werberechtlich als Irreführung bewertet werden.

Immer mehr Unternehmen erstellen Videos mit virtuellen Avataren. Diese übernehmen beispielsweise:

• Produktpräsentationen,
• Schulungsvideos,
• interne Kommunikation,
• Begrüßungsvideos oder
• Kundeninformationen.

Da solche Avatare häufig wie echte Menschen wirken, sollten Unternehmen prüfen, ob Nutzerinnen und Nutzer eindeutig erkennen können, dass es sich um KI-generierte Inhalte handelt.

Rechtliche Einordnung: Bei rein fiktiven, erkennbar synthetischen Avataren ohne Bezug zu einer realen Person ist die Deepfake-Regelung nicht zwingend einschlägig, eine deutliche Kennzeichnung (z. B. „virtueller Assistent" oder „KI-Avatar") ist aber Best Practice und dient zugleich der Erfüllung der separaten Chatbot-/Interaktionspflicht aus Artikel 50, sofern der Avatar mit Nutzerinnen und Nutzern interagiert. Wird der Avatar dagegen einer realen Person nachempfunden oder mit deren Stimme hinterlegt, greift die Deepfake-Offenlegungspflicht regelmäßig uneingeschränkt.

Als Deepfakes bezeichnet der AI Act KI-generierte oder KI-manipulierte Bild-, Audio- oder Videoinhalte, die bestehenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlicherweise als authentisch oder wahr erscheinen könnten. Beispiele sind:

• eine Geschäftsführerin hält scheinbar eine Rede,
• ein Politiker äußert Aussagen, die nie gefallen sind,
• eine bekannte Persönlichkeit spricht mit einer künstlich erzeugten Stimme oder
• Gesichter werden in bestehende Videos eingefügt.

Gerade weil solche Inhalte erhebliche Auswirkungen auf Vertrauen und Glaubwürdigkeit haben können, sieht der EU AI Act hierfür besondere Transparenzpflichten vor.

Der EU AI Act schreibt keine einheitliche Formulierung vor. Entscheidend ist, dass Nutzerinnen und Nutzer klar erkennen können, dass ein Inhalt künstlich erzeugt oder wesentlich mithilfe von KI verändert wurde. Die nun veröffentlichten Leitlinien der EU-Kommission konkretisieren dies weiter:

• Bei kurzen Videos ist eine besonders gut sichtbare Kennzeichnung erforderlich; das KI-Label soll während der gesamten Wiedergabe sichtbar bleiben.
• Bei Audioinhalten können gesprochene Hinweise erforderlich sein, insbesondere wenn künstliche Stimmen reale Personen imitieren.
• Bei Bildern kommt ein gut sichtbarer Hinweis direkt am Bild oder in unmittelbarer Nähe dazu in Betracht.
• Zusätzlich zur menschlich wahrnehmbaren Kennzeichnung müssen Anbieter generativer Systeme seit dem 2. August 2026 grundsätzlich auch eine maschinenlesbare technische Markierung sicherstellen (z. B. Metadaten, Wasserzeichen, Herkunftsnachweise).

Welche Lösung im Einzelfall geeignet ist, hängt vom jeweiligen Einsatzbereich und den konkreten gesetzlichen Vorgaben ab. Eine rein technische Markierung (Metadaten) allein reicht bei Deepfakes regelmäßig nicht aus – hier ist zusätzlich eine für Menschen erkennbare Offenlegung nötig.

Ein Punkt, der seit der Anwendbarkeit von Artikel 50 immer wieder für Rückfragen sorgt, betrifft bereits existierende Inhalte:

• KI-generierte oder KI-manipulierte Inhalte bzw. Deepfakes, die vor dem 2. August 2026 erzeugt oder manipuliert wurden, müssen grundsätzlich nicht rückwirkend gekennzeichnet werden.
• Für KI-Systeme, die bereits vor dem 2. August 2026 im Einsatz waren, gilt für die technische, maschinenlesbare Kennzeichnung (Anbieterpflicht) eine Übergangsfrist bis zum 2. Dezember 2026. Die übrigen Transparenzpflichten aus Artikel 50 – insbesondere die Offenlegungspflicht bei Deepfakes gegenüber der Öffentlichkeit – gelten dagegen bereits seit dem 2. August 2026 ohne Übergangsfrist.

Für neu erstellte und veröffentlichte Inhalte ab dem 2. August 2026 sollten Unternehmen daher nicht auf die technische Übergangsfrist vertrauen, sondern die Offenlegungspflicht als Betreiber im Blick behalten.

Verstöße gegen die Transparenzpflichten aus Artikel 50 können nach Artikel 99 Absatz 4 des AI Acts mit Bußgeldern von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden – je nachdem, welcher Betrag höher ist. Hinzu kommen mögliche lauterkeitsrechtliche Risiken, wenn Verbraucherinnen und Verbraucher durch nicht gekennzeichnete KI-Inhalte in die Irre geführt werden.

Unternehmen sollten den Einsatz visueller KI-Inhalte nicht erst kurz vor einer Prüfung überdenken, sondern jetzt, da die Pflichten bereits gelten, handeln. Sinnvoll ist es,

• eingesetzte KI-Tools und deren Anbieter zu dokumentieren,
• pro Anwendungsfall zu prüfen, ob eine reale Person, ein realer Ort oder ein reales Ereignis betroffen ist,
• KI-generierte Medien, bei denen eine Verwechslungsgefahr besteht, eindeutig zu kennzeichnen,
• Verantwortlichkeiten (Anbieter- vs. Betreiberpflichten) klar festzulegen,
• interne Freigabeprozesse und ein dokumentiertes „Human-in-the-Loop"-Prinzip einzuführen und
• Mitarbeitende regelmäßig zu den nun verbindlichen Vorgaben zu schulen.

So lassen sich Unsicherheiten reduzieren und gleichzeitig transparente Prozesse etablieren, die auch im Fall einer Prüfung durch die zuständige Marktüberwachungsbehörde belastbar sind.

KI-Bilder, Videos und Deepfakes gehören zu den sichtbarsten Anwendungsfällen künstlicher Intelligenz und stehen deshalb besonders im Fokus des EU AI Acts. Seit dem 2. August 2026 sind die entsprechenden Transparenzpflichten aus Artikel 50 verbindlich anwendbar.

Für Unternehmen bedeutet das jedoch weiterhin nicht, dass jedes KI-generierte Bild automatisch gekennzeichnet werden muss. Entscheidend sind der konkrete Anwendungsfall, der Verwendungszweck und insbesondere die Frage, ob eine Verwechslungsgefahr mit realen Personen, Orten oder Ereignissen besteht.

Wer den Einsatz von KI frühzeitig dokumentiert, die Anbieter- und Betreiberrollen sauber trennt und klare interne Prozesse schafft, ist nicht nur besser auf die gesetzlichen Anforderungen vorbereitet, sondern stärkt zugleich das Vertrauen von Kundinnen und Kunden, Bewerbenden sowie Geschäftspartnern.

Nicht nur Bilder und Videos entstehen heute mit Unterstützung künstlicher Intelligenz – auch Texte werden zunehmend von KI-Sprachmodellen erstellt. Doch wann müssen KI-generierte Texte tatsächlich gekennzeichnet werden? Im nächsten Teil unserer Serie beleuchten wir die Besonderheiten der Transparenzpflichten für KI-generierte Texte nach Artikel 50 Absatz 4 und zeigen, welche entscheidende Rolle die menschliche redaktionelle Kontrolle sowie die sogenannte „Kunstausnahme" für Satire und fiktionale Werke spielen.

Hinweis: Dieser Beitrag dient der allgemeinen Information und stellt keine Rechtsberatung dar. Bei konkreten rechtlichen Fragestellungen sollten Sie eine entsprechend qualifizierte Rechtsberatung in Anspruch nehmen.