Müssen KI-generierte Texte gekennzeichnet werden?
Transparenzpflichten nach Art 50 EU AI Act für KI-generierte Texte
Ab dem 2. August 2026 gelten die Transparenzpflichten der KI-Verordnung, Art 50 KI-VO.
Bei Bildern, Videos und Audio ist die Kennzeichnungspflicht für KI-Inhalte inzwischen weithin bekannt. Bei Texten herrscht dagegen Verunsicherung.
Auch KI-generierte Textinhalte müssen nach der KI-VO kennzeichnen, soweit diese relevant für die Öffentlichkeit sind und keiner redaktionellen Endkontrolle unterzogen wurden, Art. 50 Abs. 4 UAbs. 2 KI-VO.
Eine generelle Pflicht zur Kennzeichnung KI-generierter Texte gibt es also nicht. Die Pflicht aus Art. 50 Abs. 4 UAbs. 2 KI-VO ist eng und greift erst, wenn zwei Hürden kumulativ überschritten werden: Der Text muss die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren und er darf keiner echten redaktionellen Endkontrolle unterliegen.
Hinweis zum Rechtsstand: Dieser Beitrag berücksichtigt den am 8. Mai 2026 veröffentlichten Entwurf der Leitlinien der EU-Kommission zur Umsetzung der Transparenzpflichten nach Art. 50 KI-VO.
Grundsatz: keine allgemeine Kennzeichnungspflicht für Texte
Die Pflicht aus Art. 50 Abs. 4 UAbs. 2 KI-VO trifft – wie bei den übrigen Inhaltstypen – den Betreiber, also den Nutzer eines KI-Systems.
Er muss sowohl durch mit KI erzeugte als auch durch mit KI manipulierte Texte kennzeichnen:
- Einen Text mit KI erzeugen bedeutet das Erstellen eines Textes durch Prompt – „Erstelle einen Beitrag über …".
- Einen Text mit KI manipulieren meint das Verändern eines bestehenden Textes durch KI – etwa „Korrigiere den Text" oder „Fasse zusammen".
Öffentlichkeitsrelevanz
Die Kennzeichnungspflicht setzt voraus, dass der Text veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Was darunter fällt, konkretisiert der Entwurf der Leitlinien vom 8. Mai 2026 der Kommission.
Als öffentlichkeitsrelevant versteht die Kommission insbesondere:
*- eine KI-generierte Zusammenfassung eines von Menschen verfassten Zeitungsartikels über eine aktuelle Entscheidung eines Stadtrats;
- KI-manipulierte Teile einer veröffentlichten wissenschaftlichen Arbeit, die die Auswirkungen verschiedener Diäten auf eine bestimmte Krankheit bei Frauen mittleren Alters vergleicht;
- eine KI-generierte Mitteilung auf dem Social-Media-Profil eines meteorologischen Instituts, die Bürger vor stürmischem Wetter und entsprechenden Vorsichtsmaßnahmen warnt.*
Nicht öffentlichkeitsrelevant sind dagegen nach dem Verständnis der Kommission:
*- KI-generierte fiktionale Romane oder Gedichte jeden Genres;
- KI-manipulierter Text als Teil einer Unternehmenswerbung – ausgenommen jedoch Aussagen etwa zu Gesundheit, Verbrauchersicherheit oder Nachhaltigkeit;
- eine Nachrichtenzusammenfassung durch einen Chatbot, die nur dem Nutzer zur Verfügung steht, der den Chatbot bedient hat.*
Für die Praxis ist das eine erhebliche Entlastung: Die meisten redaktionellen und werblichen Unternehmenstexte fallen bereits auf dieser Ebene heraus.
Vorsicht ist allerdings bei Werbetexten mit Gesundheits- oder Nachhaltigkeitsbezug geboten.
Beispiel: Ein Getränkehersteller veröffentlicht einen Werbetext, der darauf hinweist, dass seine Limonade das Immunsystem stärke und in Deutschland hergestellt werde, und der auf die Inhaltsstoffe und deren Wirkung im Körper eingeht. Hier könnte die Schwelle zur Öffentlichkeitsrelevanz überschritten sein, weil Gesundheitsaussagen betroffen sind.
redaktionelle Endkontrolle
Selbst wenn ein Text öffentlichkeitsrelevant ist, kann die Kennzeichnungspflicht jedoch entfallen. Nach Art. 50 Abs. 4 UAbs. 2 KI-VO gilt sie nicht, wenn die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.
Beide Voraussetzungen müssen kumulativ vorliegen: ein echtes Kontrollverfahren und eine klar zugeordnete redaktionelle Verantwortung.
Praktisch entscheidend ist die Nachweisbarkeit. Wer sich auf die Ausnahme stützen will, sollte den Kontrollprozess dokumentieren: wer den Text inhaltlich geprüft und freigegeben hat, welche substanziellen Prüfungen und Änderungen vorgenommen wurden, und wer die redaktionelle Verantwortung trägt. Eine nachvollziehbare Versionshistorie, die menschliche Eingriffe über bloße Formatierung hinaus belegt, sowie ein dokumentierter Freigabeschritt sind hier die naheliegenden Mittel. Ohne solche Nachweise lässt sich die Ausnahme im Streitfall kaum belastbar führen.
In der Praxis ist das der entscheidende Hebel: Wer einen definierten, dokumentierten Freigabeprozess für öffentlichkeitsrelevante Texte etabliert, hält die Kennzeichnungspflicht in Grenzen und sichert zugleich Qualität und Verantwortlichkeit. Wir gestalten diesen Prozess rechtssicher und so, dass Ihre Nachweise im Streitfall tragen.
Wie müssen KI-generierte Texte mit Öffentlichkeitsrelevanz gekennzeichnet werden?
Ist der Text öffentlichkeitsrelevant und unterläuft vor Veröffentlichung keiner redaktionellen Endkontrolle, muss der Betreiber den KI-Einsatz kennzeichnen. Die Modalitäten richten sich nach Art. 50 Abs. 5 S. 1 KI-VO: Die Information ist den betroffenen Personen spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitzustellen. Die Öffentlichkeit soll erkennen können, dass sie es nicht mit rein menschlich erstellten Informationsinhalten zu tun hat.
Für Texte bedeutet das: Der Hinweis gehört an den Anfang vor den Text, nicht ans Ende und nicht versteckt im Impressum.
Im Limonaden-Beispiel: Steht auf der Website zum Beitrag über die Stärkung des Immunsystems eine KI-generierte Kurzfassung, die automatisch und ohne redaktionelle Endkontrolle erzeugt wurde, muss der Hinweis vor dem Text und vor dem Lesen erscheinen – etwa: „Dies ist eine KI-generierte Zusammenfassung des nachfolgenden Textes."
Was bei Verstößen droht
Die Kennzeichnungspflichten des Art. 50 KI-VO sind keine bloße Empfehlung. Verstöße unterliegen dem Bußgeldregime der KI-Verordnung: Nach Art. 99 KI-VO drohen Geldbußen von bis zu 15 Mio. EUR oder 3 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Die Benennung der zuständigen Aufsichts- und Durchsetzungsbehörden erfolgt national; die ahndungsfähige Schwelle ist damit aber unionsrechtlich vorgegeben.
Fazit und Handlungsempfehlung
Für KI-generierte Texte gilt: keine pauschale Kennzeichnung, sondern eine eng begrenzte Pflicht. Die Prüfung verläuft in zwei Schritten:
- Öffentlichkeitsrelevanz prüfen. Informiert der Text die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse? Reine Werbung und fiktionale Inhalte fallen heraus – aber Achtung bei Gesundheits-, Sicherheits- und Nachhaltigkeitsaussagen.
- Redaktionelle Endkontrolle sicherstellen und dokumentieren. Wo Öffentlichkeitsrelevanz droht, lässt sich die Pflicht durch echte menschliche Kontrolle mit zugeordneter redaktioneller Verantwortung vermeiden – vorausgesetzt, der Prozess ist nachweisbar.
Erst wenn beide Filter überschritten sind, ist zu kennzeichnen, und zwar klar und prominent vor dem Inhalt.
Der wirksamste Hebel ist daher organisatorisch: ein definierter, dokumentierter Freigabeprozess für öffentlichkeitsrelevante Texte. Er hält nicht nur die Kennzeichnungspflicht in Grenzen, sondern sichert zugleich Qualität und Verantwortlichkeit – und schützt vor Bußgeldern nach Art. 99 KI-VO ebenso wie vor wettbewerbsrechtlichen Angriffen.
Sie nutzen KI zur Erstellung oder Bearbeitung von Texten und wollen wissen, welche davon kennzeichnungspflichtig sind? Wir prüfen Ihre Inhalte entlang der beiden maßgeblichen Filter, gestalten einen rechtssicheren redaktionellen Kontrollprozess und sorgen dafür, dass Ihre Nachweise im Streitfall tragen.
FAQ
1. Muss ich jeden mit ChatGPT o. Ä. erstellten Text kennzeichnen?
Nein. Eine generelle Kennzeichnungspflicht für KI-Texte gibt es nicht. Sie greift nur, wenn der Text die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse informiert und keiner echten redaktionellen Endkontrolle unterliegt.
2. Sind Werbetexte kennzeichnungspflichtig?
Grundsätzlich nicht – Werbung ist regelmäßig keine Information über Angelegenheiten von öffentlichem Interesse. Anders kann es bei Aussagen zu Gesundheit, Verbrauchersicherheit oder Nachhaltigkeit liegen.
3. Was bedeutet „redaktionelle Endkontrolle"?
Mehr als das bloße Übernehmen des KI-Outputs. Erforderlich ist eine inhaltliche Prüfung auf Richtigkeit, Auswahl, Gewichtung und Überarbeitung – mit einer klar zugeordneten Person, die die redaktionelle Verantwortung trägt.
4. Reicht ein Hinweis im Impressum?
Nein. Der Hinweis muss klar, eindeutig und vor dem Text erscheinen – nicht versteckt am Ende oder im Impressum.
5. Was droht bei Verstößen?
Nach Art. 99 KI-VO Bußgelder von bis zu 15 Mio. EUR oder 3 % des weltweiten Jahresumsatzes. Hinzu kommt das Risiko wettbewerbsrechtlicher Abmahnungen, wenn die fehlende Kennzeichnung als Verstoß gegen eine Marktverhaltensregelung (§ 3a UWG) gewertet wird.
