Welche KI-Inhalte müssen nach Artikel 50 EU AI Act tatsächlich gekennzeichnet werden?

Im ersten Teil unserer Serie haben wir erläutert, warum der EU AI Act für Unternehmen relevant ist und weshalb die Kennzeichnungspflicht nur der Anfang einer umfassenden KI-Governance ist.

Doch welche Inhalte müssen seit dem 2. August 2026 tatsächlich gekennzeichnet werden – und welche nicht?

Viele Unternehmen gehen davon aus, dass künftig alle mit künstlicher Intelligenz erstellten Inhalte gekennzeichnet werden müssen. Das stimmt jedoch nicht. Ebenso wenig ist die Annahme richtig, dass KI-generierte Inhalte grundsätzlich kennzeichnungsfrei sind.

Artikel 50 des EU AI Acts enthält konkrete Transparenzpflichten für bestimmte Anwendungsfälle. Entscheidend ist dabei nicht allein, ob künstliche Intelligenz eingesetzt wurde, sondern welcher Inhalt veröffentlicht wird, welchem Zweck er dient und welche Transparenzpflichten für den jeweiligen Anwendungsfall gelten.

Der EU AI Act verfolgt das Ziel, den Einsatz künstlicher Intelligenz für Nutzerinnen und Nutzer nachvollziehbarer zu machen. Deshalb sieht Artikel 50 keine allgemeine Kennzeichnungspflicht für sämtliche KI-Anwendungen vor, sondern verpflichtet Unternehmen in bestimmten Fällen dazu, transparent über den Einsatz von KI zu informieren.

Besonders relevant sind die Regelungen für:

• KI-generierte oder wesentlich veränderte Bilder 
• Videos und Audioinhalte 
• Deepfakes 
• KI-gestützte Chatbots 
• bestimmte KI-generierte Texte

Je nach Art des Bildes und seinem Einsatz können Transparenzpflichten bestehen, insbesondere bei synthetischen oder wesentlich veränderten Bildinhalten, für die Artikel 50 besondere Anforderungen vorsieht.

Bilder gehören zu den häufigsten Anwendungsfällen generativer KI. Ob für Social Media, Recruiting oder Produktmarketing – viele Unternehmen nutzen bereits Tools wie Adobe Firefly, Midjourney oder DALL·E.

Eine Kennzeichnung kann insbesondere dann erforderlich werden, wenn Bilder vollständig durch KI erzeugt oder wesentlich verändert wurden und für Betrachter den Eindruck eines echten Fotos vermitteln können.

Typische Beispiele sind:

• KI-generierte Porträts realer oder fiktiver Personen 
• fotorealistische Mitarbeiter- oder Bewerbungsfotos 
• vollständig KI-generierte Produktbilder
• Fotos, deren Inhalte mithilfe von KI wesentlich verändert wurden 

Entscheidend ist dabei nicht, wer dargestellt wird, sondern wie der Inhalt entstanden ist und ob Nutzerinnen und Nutzer erkennen können, dass künstliche Intelligenz eingesetzt wurde.

Nicht nur Bilder, sondern auch Videos und Audiodateien können unter die Transparenzpflichten des Artikel 50 fallen.

Dazu gehören beispielsweise:

• Avatar-Videos 
• KI-generierte Erklärvideos 
• künstlich erzeugte Sprecherstimmen
• per KI bearbeitete Sprachaufnahmen 
• realistisch erzeugte Deepfake-Videos

Gerade im Marketing und in der Unternehmenskommunikation gewinnen diese Formate zunehmend an Bedeutung. Unternehmen sollten deshalb frühzeitig prüfen, wie entsprechende Inhalte künftig transparent gekennzeichnet werden können.

Eine besondere Rolle spielen sogenannte Deepfakes. Dabei handelt es sich um Bild-, Audio- oder Videoinhalte, die mithilfe künstlicher Intelligenz so erzeugt oder verändert wurden, dass reale Personen scheinbar etwas sagen oder tun, was tatsächlich nie geschehen ist. Da solche Inhalte ein erhebliches Täuschungspotenzial besitzen, sieht der EU AI Act hierfür besondere Transparenzpflichten vor. Ziel ist es, Nutzerinnen und Nutzer darüber zu informieren, dass es sich nicht um authentische Aufnahmen handelt, sofern keine gesetzliche Ausnahme greift (z. B. für Strafverfolgungszwecke oder bestimmte künstlerische bzw. satirische Kontexte, soweit die jeweiligen Voraussetzungen erfüllt sind). Wie diese Kennzeichnung in der Praxis aussehen kann, beleuchten wir ausführlich im nächsten Teil unserer Serie.

Bei Texten ist die Rechtslage deutlich differenzierter. Der Einsatz von ChatGPT, Microsoft Copilot oder anderen Sprachmodellen führt nicht automatisch dazu, dass jeder veröffentlichte Text gekennzeichnet werden muss. Besondere Transparenzpflichten können insbesondere für KI-generierte Texte zu Themen von öffentlichem Interesse gelten, wenn keine angemessene menschliche redaktionelle Kontrolle oder Verantwortung erfolgt. Wer KI lediglich als Unterstützung nutzt und Texte anschließend prüft, überarbeitet und freigibt, befindet sich häufig in einer anderen Ausgangslage als bei einer vollständig automatisierten Veröffentlichung. Da die konkrete Auslegung in diesem Bereich weiter präzisiert wird, sollten Unternehmen die Entwicklungen aufmerksam verfolgen.

Auch Unternehmen, die KI-gestützte Chatbots einsetzen, müssen die Vorgaben des Artikels 50 beachten. Grundsätzlich sollen Nutzerinnen und Nutzer erkennen können, dass sie mit einer künstlichen Intelligenz kommunizieren – sofern dies nicht bereits offensichtlich ist. Ein gut sichtbarer Hinweis innerhalb des Chats kann hierfür ausreichend sein, sofern die gesetzlichen Anforderungen erfüllt werden.

Die Nutzung künstlicher Intelligenz allein führt nicht automatisch zu einer Kennzeichnungspflicht. Viele Unternehmen verwenden KI ausschließlich als internes Arbeitswerkzeug – etwa zur Ideenfindung, zur Recherche oder zur Optimierung bestehender Inhalte. Solche Anwendungsfälle fallen nicht automatisch unter die Transparenzpflichten des Artikels 50. Dennoch empfiehlt es sich, den Einsatz von KI im Unternehmen systematisch zu dokumentieren. So lässt sich später einfacher nachvollziehen, welche Inhalte mit Unterstützung künstlicher Intelligenz entstanden sind und ob eine Kennzeichnung erforderlich gewesen wäre.

Vor jeder Veröffentlichung sollten Unternehmen drei zentrale Fragen beantworten:

1. Wurde der Inhalt vollständig oder wesentlich mithilfe von KI erstellt oder verändert? 
    
2. Könnte der Eindruck entstehen, dass der Inhalt vollständig authentisch oder ausschließlich von Menschen erstellt wurde?
    
3. Greifen für diesen konkreten Anwendungsfall die Transparenzpflichten des Artikels 50? 

Lässt sich eine dieser Fragen nicht eindeutig beantworten, empfiehlt sich eine genauere Prüfung der gesetzlichen Anforderungen.

Der EU AI Act verpflichtet Unternehmen nicht dazu, sämtliche KI-generierten Inhalte zu kennzeichnen. Vielmehr gelten die Transparenzpflichten des Artikels 50 für bestimmte Anwendungsfälle, bei denen Nutzerinnen und Nutzer nachvollziehen können sollen, dass künstliche Intelligenz zum Einsatz gekommen ist.

Für Unternehmen bedeutet das vor allem eines: Der Einsatz von KI sollte systematisch dokumentiert, veröffentlichte Inhalte sollten vor der Veröffentlichung geprüft und interne Verantwortlichkeiten klar geregelt werden. So lassen sich rechtliche Risiken reduzieren und gleichzeitig Transparenz sowie Vertrauen gegenüber Kundinnen und Kunden stärken.

KI-generierte Bilder, Videos und Deepfakes gehören zu den sichtbarsten Anwendungsfällen künstlicher Intelligenz – und gleichzeitig zu den Bereichen, in denen die Transparenzpflichten des EU AI Acts besonders relevant sind. Im nächsten Beitrag zeigen wir anhand konkreter Beispiele aus Marketing, Recruiting und Unternehmenskommunikation, wann eine Kennzeichnung erforderlich ist und wie Unternehmen diese in der Praxis sinnvoll umsetzen können.

Hinweis: Dieser Beitrag dient der allgemeinen Information und stellt keine Rechtsberatung dar. Bei konkreten rechtlichen Fragestellungen sollten Sie eine entsprechend qualifizierte Rechtsberatung in Anspruch nehmen.