
KI-Kennzeichnung nach AI Act Blog-Post
Blogbeitrag: KI-Kennzeichnung nach AI Act
Müssen KI-generierte Inhalte gekennzeichnet werden? Transparenzpflichten nach dem AI Act
Wer ChatGPT, Copilot oder andere KI-Systeme einsetzt, stößt schnell auf die Frage: Muss ich eigentlich kennzeichnen, dass hier KI im Spiel war?
Die kurze Antwort lautet: Nein, nicht jeder Einsatz von KI und nicht jeder KI-generierte Inhalt muss gekennzeichnet werden.
Der AI Act bzw. die KI-Verordnung enthält in Art. 50 verschiedene Transparenzpflichten. Diese gelten aber nur für bestimmte KI-Systeme und bestimmte Verwendungen. Außerdem ist entscheidend, wer das KI-System bereitstellt oder einsetzt.
Denn Art. 50 AI Act unterscheidet zwischen Pflichten der Anbieter von KI-Systemen und Pflichten der Betreiber, also insbesondere der Unternehmen, die KI-Systeme in eigener Verantwortung einsetzen. Diese Transparenzpflichten gelten grundsätzlich seit dem 2. August 2026.
Die entscheidende Frage lautet aber nicht: „Wurde hier KI eingesetzt?“
Sondern: „Wer setzt welches KI-System wofür ein – und fällt dieser konkrete Anwendungsfall unter eine Transparenzpflicht des Art. 50 AI Act?“
Welche Transparenzpflichten enthält der AI Act?
Art. 50 AI Act enthält keine allgemeine Pflicht, KI-generierte Inhalte mit einem Hinweis wie „Made with AI“ oder „KI-generiert“ zu versehen.
Stattdessen unterscheidet die Vorschrift mehrere Fallgruppen:
Interaktion mit KI: Anbieter müssen grundsätzlich dafür sorgen, dass Menschen erkennen können, dass sie mit einem KI-System interagieren.
KI-generierte Inhalte: Anbieter bestimmter generativer KI-Systeme müssen synthetische Texte, Bilder, Audio- und Videoinhalte technisch bzw. maschinenlesbar kennzeichnen.
Emotionserkennung und biometrische Kategorisierung: Betreiber müssen betroffene Personen über den Einsatz solcher Systeme informieren.
Deepfakes: Betreiber müssen grundsätzlich offenlegen, wenn Bild-, Audio- oder Videoinhalte künstlich erzeugt oder manipuliert wurden und einen Deepfake darstellen.
KI-generierte Texte: Betreiber müssen unter bestimmten Voraussetzungen offenlegen, wenn KI-generierte oder manipulierte Texte veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.
Die wichtigste Unterscheidung: Die ersten beiden Pflichten treffen den Anbieter, die folgenden drei den Betreiber.
Technische Kennzeichnung durch den Anbieter und Offenlegung durch den Betreiber sind zwei unterschiedliche Ebenen der KI-Transparenz.
Anbieter oder Betreiber: Wer muss die KI kennzeichnen?
Bevor geprüft wird, ob eine Kennzeichnungspflicht besteht, sollte zunächst die eigene Rolle geklärt werden.
Was ist ein Anbieter nach dem AI Act?
Anbieter ist vereinfacht gesagt eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt.
Bei einem typischen extern bezogenen KI-Dienst ist also zunächst das Unternehmen Anbieter, das das KI-System am Markt anbietet.
Was ist ein Betreiber nach dem AI Act?
Betreiber ist dagegen grundsätzlich eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet. Ausgenommen ist die Verwendung im Rahmen einer persönlichen, nicht beruflichen Tätigkeit.
Ein Unternehmen, das beispielsweise ein fremdes KI-System für Marketing, Kundenservice oder andere betriebliche Prozesse einsetzt, ist daher regelmäßig Betreiber.
Wichtig: Bei einer juristischen Person sind nicht die einzelnen Mitarbeiter jeweils Betreiber. Betreiber ist grundsätzlich das Unternehmen, unter dessen Verantwortung und Kontrolle das KI-System eingesetzt wird.
Für die Transparenzpflichten des Art. 50 ist diese Rollenverteilung entscheidend.
Müssen Chatbots und KI-Assistenten sich als KI zu erkennen geben?
Grundsätzlich müssen Menschen darüber informiert werden, wenn sie unmittelbar mit einem KI-System interagieren.
Art. 50 Abs. 1 AI Act richtet diese Pflicht an den Anbieter des KI-Systems.
Anbieter müssen KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipieren und entwickeln, dass die betroffenen Personen darüber informiert werden, dass sie mit einem KI-System interagieren.
Die EU Kommission hat Leitlinien im Juli 2026 Leitlinien zu den Transparenzpflichten des Art. 50 AI Act veröffentlicht, die gesetzliche Anforderungen anhand von Erläuterungen und Praxisbeispielen konkretisieren. Danach erfasst Art. 50 Abs. 1 KI-Systeme, die unmittelbar mit natürlichen Personen interagieren. Nicht erfasst sind dagegen insbesondere Systeme, bei denen keine unmittelbare Interaktion zwischen dem KI-System und einer natürlichen Person stattfindet.
Eine Information ist außerdem nicht erforderlich, wenn es für eine angemessen informierte, aufmerksame und verständige Person aufgrund der Umstände und des Nutzungskontexts offensichtlich ist, dass sie mit einer KI interagiert. Die Kommission versteht diese Ausnahme allerdings eng.
Praktisch relevant ist die Transparenzpflicht beispielsweise bei:
KI-Chatbots im Kundenservice,
KI-Telefonassistenten,
KI-Agenten,
virtuellen Verkaufsberatern oder
KI-Avataren, die unmittelbar mit Menschen kommunizieren.
Die Information muss zu Beginn der ersten Interaktion klar erfolgen.
Müssen KI-generierte Texte, Bilder und Videos technisch gekennzeichnet werden?
Für Anbieter generativer KI-Systeme enthält Art. 50 Abs. 2 AI Act eine weitere Transparenzpflicht.
Anbieter von KI-Systemen – einschließlich KI-Systemen mit allgemeinem Verwendungszweck –, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen grundsätzlich dafür sorgen, dass die Ausgaben des Systems maschinenlesbar gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind.
Die eingesetzten technischen Lösungen müssen wirksam, interoperabel, robust und zuverlässig sein, soweit dies technisch machbar ist. Dabei sind unter anderem die Besonderheiten und Grenzen verschiedener Inhalte, die Implementierungskosten und der allgemein anerkannte Stand der Technik zu berücksichtigen.
Entscheidend ist:
Maschinenlesbare Kennzeichnung bedeutet nicht automatisch, dass auf jedem KI-Bild sichtbar „KI-generiert“ stehen muss.
Die technische Kennzeichnung nach Art. 50 Abs. 2 richtet sich primär an Maschinen und Detektionssysteme. Sie ist von einer für Menschen wahrnehmbaren Offenlegung zu unterscheiden.
Die Pflicht gilt zudem nicht uneingeschränkt. Sie greift insbesondere nicht, soweit das KI-System lediglich eine unterstützende Funktion für Standardbearbeitungen erfüllt oder die vom Betreiber bereitgestellten Eingabedaten beziehungsweise deren Semantik nicht wesentlich verändert.
Die Leitlinien der Kommission konkretisieren außerdem weitere Konstellationen, in denen bestimmte Ausgaben nicht von der Kennzeichnungspflicht erfasst werden.
Was gilt bei Emotionserkennung und biometrischer Kategorisierung?
Eine weitere Transparenzpflicht betrifft Betreiber von Systemen zur Emotionserkennung oder biometrischen Kategorisierung.
Hier wechselt Art. 50 die Perspektive: Verpflichtet ist nicht der Anbieter, sondern der Betreiber des KI-Systems.
Nach Art. 50 Abs. 3 AI Act müssen Betreiber natürliche Personen, die einem solchen System ausgesetzt sind, über den Betrieb des Systems informieren. Nach den Kommissionsleitlinien gilt dies unabhängig davon, ob die Analyse in Echtzeit oder nachträglich erfolgt.
Daneben gelten insbesondere die datenschutzrechtlichen Anforderungen weiter. Je nach Anwendungsfall können zudem andere Vorschriften des AI Act bis hin zu Verbotstatbeständen relevant sein.
Die Transparenzinformation nach Art. 50 ist daher nur ein Teil der rechtlichen Prüfung. Dass über ein System informiert wird, bedeutet noch nicht, dass dessen Einsatz auch zulässig ist.
Müssen Deepfakes als KI-generiert gekennzeichnet werden?
Besonders praxisrelevant ist Art. 50 Abs. 4 AI Act.
Setzt ein Betreiber ein KI-System ein, um Bild-, Audio- oder Videoinhalte zu erzeugen oder zu manipulieren, die einen Deepfake darstellen, muss er offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.
Der AI Act versteht unter einem Deepfake KI-generierte oder KI-manipulierte Bild-, Audio- oder Videoinhalte, die existierenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als authentisch oder wahrheitsgemäß erscheinen würden.
Nach den Leitlinien der Kommission sind dabei im Kern drei Voraussetzungen relevant:
Der Inhalt weist eine hinreichende Ähnlichkeit mit dem dargestellten Gegenstand, der Person oder dem Ereignis auf.
Die Darstellung bezieht sich auf etwas, das existiert, plausibel existieren kann oder plausibel existiert haben könnte.
Der Inhalt kann fälschlicherweise als authentisch oder wahrheitsgemäß erscheinen.
Dabei kommt es auch auf den Kontext und die Erwartungen des jeweiligen Publikums an.
Ein klassisches Beispiel wäre ein täuschend echt wirkendes Video, in dem der Geschäftsführer eines Unternehmens scheinbar Aussagen trifft, die tatsächlich vollständig durch KI erzeugt wurden.
Auch eine künstlich erzeugte Stimme einer realen Person kann unter die Regelung fallen.
Entscheidend ist deshalb nicht allein, dass KI eingesetzt wurde. Entscheidend ist, ob das Ergebnis die Voraussetzungen eines Deepfakes erfüllt.
Die Offenlegung gegenüber Menschen muss spätestens bei der ersten Exposition klar und unterscheidbar erfolgen. Ein Betreiber kann sich dafür nicht allein auf eine unsichtbare, maschinenlesbare Kennzeichnung verlassen, die der Anbieter nach Art. 50 Abs. 2 in den Inhalt eingebettet hat.
Was gilt für Kunst, Satire und fiktionale Inhalte?
Der AI Act berücksichtigt, dass eine strikte Kennzeichnung insbesondere bei Kunst, Satire oder fiktionalen Inhalten problematisch sein kann.
Ist der KI-generierte oder manipulierte Inhalt Bestandteil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder vergleichbaren Werks oder Programms, ist die Transparenzpflicht deshalb eingeschränkt.
Die Offenlegung muss dann in geeigneter Weise erfolgen, ohne die Darstellung oder den Genuss des Werks zu beeinträchtigen.
Müssen Texte von ChatGPT, Copilot und anderen KI-Systemen gekennzeichnet werden?
Eine der häufigsten Fragen lautet:
Muss ich einen Text kennzeichnen, wenn ich ihn mit ChatGPT, Copilot oder einem anderen generativen KI-System erstellt habe?
Die Antwort lautet: Grundsätzlich nein.
Der AI Act enthält keine allgemeine Pflicht, jeden Text mit einem Hinweis wie „Dieser Text wurde mit KI erstellt“ zu versehen.
Art. 50 Abs. 4 AI Act erfasst nur eine bestimmte Konstellation.
Eine Offenlegungspflicht besteht grundsätzlich, wenn ein Betreiber ein KI-System verwendet, um Text zu erzeugen oder zu manipulieren, und dieser Text veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.
Nach den Leitlinien der Kommission müssen dafür insbesondere drei Voraussetzungen vorliegen:
Der Text wird veröffentlicht.
Er dient der Information der Öffentlichkeit.
Er betrifft eine Angelegenheit von öffentlichem Interesse.
Zu Angelegenheiten von öffentlichem Interesse können beispielsweise Politik und demokratische Prozesse, öffentliche Verwaltung, Justiz, Grundrechte, öffentliche Sicherheit und Gesundheit, Umweltschutz, Verbrauchersicherheit sowie wirtschaftliche, finanzielle, wissenschaftliche oder kulturelle Entwicklungen gehören, die Gegenstand öffentlicher Debatten sein können.
Damit ist der Anwendungsbereich deutlich enger als die häufig anzutreffende Aussage:
„KI-Texte müssen gekennzeichnet werden.“
Müssen KI-generierte Produktbeschreibungen gekennzeichnet werden?
Eine gewöhnliche Produktbeschreibung wird regelmäßig nicht allein deshalb nach Art. 50 Abs. 4 kennzeichnungspflichtig, weil sie mit ChatGPT oder einem anderen KI-System erstellt wurde.
Der Einsatz generativer KI löst für den Betreiber nicht automatisch eine Pflicht zur sichtbaren Kennzeichnungspflicht aus.
Unberührt bleiben selbstverständlich andere rechtliche Anforderungen, beispielsweise aus dem Wettbewerbs-, Verbraucher- oder Urheberrecht.
Müssen KI-generierte Blogbeiträge gekennzeichnet werden?
Bei einem Blogbeitrag kommt es auf Inhalt und Zweck an.
Die besondere Offenlegungspflicht für Texte setzt voraus, dass der Text veröffentlicht wird, um die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse zu informieren.
Aber selbst wenn diese Voraussetzungen erfüllt sind, enthält Art. 50 Abs. 4 eine wichtige Ausnahme.
Eine Offenlegung ist nicht erforderlich, wenn der KI-generierte Inhalt
einen Prozess menschlicher Überprüfung oder redaktioneller Kontrolle durchlaufen hat und
eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.
Die Kommission stellt dabei klar, dass eine rein oberflächliche Prüfung nicht genügt. Eine bloße Rechtschreib- oder Grammatikprüfung ist noch keine menschliche Überprüfung im Sinne dieser Ausnahme.
Erforderlich ist vielmehr eine bewusste inhaltliche Prüfung durch eine oder mehrere Personen mit den für das Thema erforderlichen Kenntnissen und professionellem Urteilsvermögen oder eine entsprechende redaktionelle Kontrolle. Die redaktionell verantwortliche Person muss letztlich die Verantwortung für die Veröffentlichung übernehmen.
Wer KI also als Werkzeug für die Erstellung eines Textes nutzt, den Inhalt anschließend substanziell fachlich überprüft und die redaktionelle Verantwortung übernimmt, muss den Text nicht allein wegen des KI-Einsatzes als „KI-generiert“ kennzeichnen.
Ein Inhalt – zwei unterschiedliche Transparenzpflichten
Wie wichtig die Trennung zwischen Anbieter und Betreiber ist, zeigt ein einfaches Beispiel.
Ein Unternehmen verwendet ein generatives KI-System, um ein täuschend echtes Video seines Geschäftsführers zu erzeugen.
Auf der ersten Ebene steht der Anbieter des generativen KI-Systems. Er muss grundsätzlich die Anforderungen aus Art. 50 Abs. 2 AI Act an die maschinenlesbare Kennzeichnung und Erkennbarkeit künstlich erzeugter oder manipulierter Inhalte erfüllen.
Auf der zweiten Ebene steht das Unternehmen als Betreiber. Stellt das Video einen Deepfake dar und setzt das Unternehmen diesen entsprechend ein, muss es nach Art. 50 Abs. 4 offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde.
Beide Pflichten haben unterschiedliche Adressaten und unterschiedliche Funktionen.
Die technische Kennzeichnung durch den Anbieter ersetzt nicht die für Menschen wahrnehmbare Transparenzpflicht des Betreibers.
Für Unternehmen reicht es deshalb nicht aus, lediglich zu prüfen, ob das verwendete KI-Tool seine Ergebnisse technisch markiert.
Wie muss die Kennzeichnung von KI-Inhalten aussehen?
Art. 50 Abs. 5 AI Act enthält übergreifende Anforderungen an die Informationen nach Art. 50 Abs. 1 bis 4.
Die Informationen müssen den betroffenen natürlichen Personen klar und unterscheidbar zur Verfügung gestellt werden.
Dies muss spätestens zum Zeitpunkt der ersten Interaktion beziehungsweise der ersten Exposition erfolgen.
Außerdem müssen die einschlägigen Anforderungen an die Barrierefreiheit eingehalten werden.
Gerade bei Deepfakes bedeutet dies nach den Leitlinien der Kommission, dass die Offenlegung für Menschen wahrnehmbar sein muss, beispielsweise durch ein sichtbares oder hörbares Label. Eine lediglich technisch eingebettete, maschinenlesbare Markierung genügt für die Betreiberpflicht nicht.
Wie die Anforderungen praktisch umgesetzt werden können, konkretisieren die Leitlinien der EU Kommission.
Für die Pflichten zur Kennzeichnung und Offenlegung KI-generierter Inhalte nach Art. 50 Abs. 2, 4 und 5 gibt es zusätzlich den europäischen Code of Practice on Transparency of AI-generated Content.
Die Teilnahme an diesem Code ist freiwillig. Die EU Kommission und der AI Board haben ihn jedoch als geeignetes Instrument bewertet, um die Einhaltung dieser Transparenzpflichten nachzuweisen.
Die Teilnahme am Code stellt allerdings keinen abschließenden Nachweis der Rechtskonformität dar.
Seit wann gelten die Transparenzpflichten des AI Act?
Art. 50 AI Act gilt seit dem 2. August 2026.
Eine begrenzte Übergangsregelung besteht allerdings für die technische Kennzeichnungs- und Erkennungspflicht nach Art. 50 Abs. 2 AI Act.
Für KI-Systeme, die bereits vor dem 2. August 2026 in Verkehr gebracht wurden, müssen Anbieter diese Anforderungen erst ab dem 2. Dezember 2026 erfüllen.
Für die übrigen Transparenzpflichten des Art. 50 besteht diese Übergangsfrist nicht.
Auch Inhalte, die bereits vor dem 2. August 2026 erzeugt wurden, müssen nach den Leitlinien grundsätzlich nicht nachträglich gekennzeichnet werden.
Praxisbeispiele: Wann müssen KI-Inhalte gekennzeichnet werden?
Die Unterschiede werden an konkreten Fällen besonders deutlich.
Fall 1: ChatGPT erstellt eine Produktbeschreibung für einen Online-Shop
Ein Online-Händler lässt ChatGPT einen Text für die Beschreibung eines neuen Produkts erstellen. Ein Mitarbeiter prüft den Text und veröffentlicht ihn anschließend im Online-Shop.
Kennzeichnungspflicht nach Art. 50 Abs. 4 AI Act: grundsätzlich nein.
Eine gewöhnliche Produktbeschreibung dient regelmäßig nicht dazu, die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse zu informieren. Allein der Umstand, dass ChatGPT den Text formuliert hat, löst keine sichtbare Kennzeichnungspflicht für den Betreiber aus.
Andere rechtliche Anforderungen – etwa an die Richtigkeit von Produkteigenschaften oder aus dem Wettbewerbsrecht – bleiben davon unberührt.
Fall 2: Unternehmen verwendet ein KI-generiertes Produktbild
Ein Online-Shop lässt mit einem Bildgenerator ein vollständig künstliches Bild eines Produkts oder einer Werbeszene erstellen.
Sichtbare Kennzeichnung durch den Betreiber nach Art. 50 Abs. 4 AI Act: nicht automatisch.
Ein KI-generiertes Bild ist nicht allein deshalb ein Deepfake, weil es künstlich erzeugt wurde. Entscheidend ist, ob es existierenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und fälschlicherweise als authentisch oder wahrheitsgemäß erscheinen kann.
Davon zu unterscheiden ist die Anbieterpflicht: Für den Anbieter des generativen KI-Systems kann die technische Kennzeichnungspflicht nach Art. 50 Abs. 2 AI Act greifen.
KI-generiert bedeutet also auch bei Bildern nicht automatisch: sichtbares KI-Label erforderlich.
Fall 3: KI-Chatbot beantwortet Kundenfragen
Ein Unternehmen integriert auf seiner Webseite einen KI-Chatbot, der selbstständig Fragen von Kunden beantwortet.
Transparenz über die KI-Interaktion: grundsätzlich ja.
Art. 50 Abs. 1 verpflichtet den Anbieter des KI-Systems, dieses grundsätzlich so zu gestalten, dass Nutzer darüber informiert werden, dass sie mit einer KI interagieren.
Das einsetzende Unternehmen sollte deshalb bei der Auswahl und Implementierung des Systems prüfen, ob diese Transparenz tatsächlich hergestellt wird.
Ein klarer Hinweis zu Beginn der Kommunikation wie „Sie chatten mit unserem KI-Assistenten“ kann hierfür eine einfache Lösung sein.
Fall 4: KI-generiertes Video des Geschäftsführers
Ein Unternehmen erstellt mit KI ein realistisches Video seines Geschäftsführers. Im Video scheint dieser eine neue Unternehmensstrategie vorzustellen, obwohl er die dargestellte Rede tatsächlich nie gehalten hat.
Kennzeichnungspflicht des Betreibers: grundsätzlich ja, wenn das Video einen Deepfake darstellt.
Das Unternehmen muss dann offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde.
Eine möglicherweise vorhandene technische Kennzeichnung des verwendeten KI-Systems reicht dafür nicht aus. Die Offenlegung muss für das Publikum wahrnehmbar sein.
Fall 5: Unternehmen veröffentlicht einen mit KI erstellten Fachartikel
Ein Unternehmen lässt einen umfangreichen Fachartikel zunächst von einem generativen KI-System erstellen. Anschließend prüft ein fachkundiger Mitarbeiter den Inhalt, korrigiert und überarbeitet ihn, ergänzt eigene Bewertungen und gibt den Artikel unter Verantwortung des Unternehmens zur Veröffentlichung frei.
Der Artikel behandelt eine Angelegenheit von öffentlichem Interesse.
Kennzeichnung als KI-generierter Text: grundsätzlich nicht erforderlich, wenn die Voraussetzungen der Ausnahme erfüllt sind.
Entscheidend ist, dass eine echte menschliche Überprüfung oder redaktionelle Kontrolle stattgefunden hat und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.
Eine bloße Rechtschreibkontrolle würde dafür dagegen nicht genügen.
Der Fall zeigt besonders deutlich:
Der AI Act verlangt nicht, dass professionelle Inhalte deshalb als KI-generiert gekennzeichnet werden, weil KI bei ihrer Erstellung als Werkzeug eingesetzt wurde.
Checkliste: Müssen wir unseren KI-Einsatz kennzeichnen?
Für eine erste Prüfung können Unternehmen in sieben Schritten vorgehen:
Welche Rolle haben wir?
Sind wir Anbieter des KI-Systems oder setzen wir ein fremdes KI-System als Betreiber ein?Interagieren Menschen unmittelbar mit dem KI-System?
Dann ist die Anbieterpflicht aus Art. 50 Abs. 1 AI Act zu prüfen.Erzeugt das System Texte, Bilder, Audio oder Videos?
Für den Anbieter kann die technische Kennzeichnungspflicht nach Art. 50 Abs. 2 relevant sein.Setzen wir Emotionserkennung oder biometrische Kategorisierung ein?
Dann kann als Betreiber eine Informationspflicht nach Art. 50 Abs. 3 bestehen.Erzeugen oder manipulieren wir Bilder, Audio oder Videos, die als echt erscheinen können?
Dann sollte geprüft werden, ob ein Deepfake vorliegt und eine Offenlegung nach Art. 50 Abs. 4 erforderlich ist.Veröffentlichen wir KI-generierte Texte über Angelegenheiten von öffentlichem Interesse?
Dann ist die besondere Transparenzpflicht für Texte zu prüfen – einschließlich der Ausnahme bei substanzieller menschlicher Überprüfung oder redaktioneller Kontrolle und Übernahme der redaktionellen Verantwortung.Welche Art von Transparenz ist erforderlich?
Technische bzw. maschinenlesbare Kennzeichnung und Offenlegung gegenüber Menschen sind nicht dasselbe. Je nach Konstellation kann eine der Pflichten oder können beide Pflichten relevant sein.Fazit: Nicht jeder KI-Inhalt braucht ein KI-Label
Die Transparenzpflichten des AI Act werden häufig auf die Aussage reduziert, KI-generierte Inhalte müssten gekennzeichnet werden.
So einfach ist es nicht.
Der AI Act kennt keine allgemeine Kennzeichnungspflicht für jeden Einsatz generativer KI.
Entscheidend ist vielmehr:
Handelt das Unternehmen als Anbieter oder Betreiber?
Welches KI-System wird eingesetzt?
Welche Inhalte werden erzeugt oder manipuliert?
Wie werden diese Inhalte verwendet?
Handelt es sich um einen Deepfake oder um einen Text zu einer Angelegenheit von öffentlichem Interesse?
Greift eine gesetzliche Ausnahme?
Gerade für Unternehmen ist diese Differenzierung wichtig. Eine pauschale Kennzeichnung sämtlicher KI-Inhalte ist keine Voraussetzung für einen rechtskonformen KI-Einsatz.
Die bessere Strategie lautet deshalb:
Nicht vorsorglich alles mit „KI-generiert“ kennzeichnen, sondern den konkreten Anwendungsfall prüfen und genau dort Transparenz herstellen, wo der AI Act sie verlangt.
Häufige Fragen zur KI-Kennzeichnung nach dem AI Act
Muss jeder KI-generierte Inhalt gekennzeichnet werden?
Nein. Art. 50 AI Act enthält keine allgemeine Kennzeichnungspflicht für sämtliche KI-generierten Inhalte. Entscheidend sind insbesondere Art des KI-Systems, Inhalt, Verwendung und die Rolle als Anbieter oder Betreiber.
Muss ich Bilder kennzeichnen, die mit KI erstellt wurden?
Nicht jedes KI-generierte Bild muss für Menschen sichtbar als KI-Bild gekennzeichnet werden. Anbieter bestimmter generativer KI-Systeme unterliegen grundsätzlich einer technischen Kennzeichnungspflicht. Für Betreiber besteht insbesondere dann eine Offenlegungspflicht, wenn Bild-, Audio- oder Videoinhalte einen Deepfake darstellen.
Muss ich ChatGPT-Texte kennzeichnen?
Nicht generell. Die besondere Betreiberpflicht des Art. 50 Abs. 4 AI Act betrifft KI-generierte oder manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Eine Ausnahme besteht insbesondere bei substanzieller menschlicher Überprüfung oder redaktioneller Kontrolle, wenn zugleich eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernimmt.
Reicht es aus, einen KI-generierten Text kurz zu überprüfen?
Nicht unbedingt. Nach den Leitlinien der Kommission genügt eine lediglich oberflächliche oder formale Prüfung, etwa eine reine Rechtschreib- oder Grammatikprüfung, nicht. Für die Ausnahme des Art. 50 Abs. 4 ist eine inhaltliche menschliche Überprüfung oder redaktionelle Kontrolle erforderlich.
Muss ein KI-Chatbot darauf hinweisen, dass er eine KI ist?
Grundsätzlich müssen Anbieter von KI-Systemen, die unmittelbar mit natürlichen Personen interagieren sollen, dafür sorgen, dass die betroffenen Personen über die Interaktion mit einem KI-System informiert werden. Eine Ausnahme gilt, wenn dies aufgrund der Umstände und des Nutzungskontexts offensichtlich ist.
Wer muss Deepfakes kennzeichnen?
Die Offenlegungspflicht nach Art. 50 Abs. 4 AI Act trifft den Betreiber eines KI-Systems, das Bild-, Audio- oder Videoinhalte erzeugt oder manipuliert, die einen Deepfake darstellen.
Reicht bei einem Deepfake eine unsichtbare technische Kennzeichnung?
Nein. Die Offenlegungspflicht des Betreibers muss für Menschen wahrnehmbar sein. Eine lediglich maschinenlesbare Kennzeichnung des Anbieters nach Art. 50 Abs. 2 genügt hierfür nicht.
Was ist der Unterschied zwischen Anbieter- und Betreiberpflichten?
Anbieterpflichten aus Art. 50 AI Act betreffen insbesondere die Gestaltung interaktiver KI-Systeme und die technische Erkennbarkeit bestimmter KI-generierter Inhalte. Betreiberpflichten knüpfen dagegen an bestimmte Verwendungen eines KI-Systems an, beispielsweise Deepfakes, bestimmte KI-generierte Texte oder den Einsatz von Emotionserkennung.
Seit wann gelten die Kennzeichnungspflichten des AI Act?
Art. 50 AI Act gilt grundsätzlich seit dem 2. August 2026. Für die technische Kennzeichnungspflicht nach Art. 50 Abs. 2 besteht für bestimmte KI-Systeme, die bereits vor diesem Datum in Verkehr gebracht wurden, eine begrenzte Übergangsfrist bis zum 2. Dezember 2026.

