Transparenzpflichten für KI-Inhalte: Was wirklich im AI Act steht

Ab dem 2. August 2026 gelten die Transparenzpflichten des EU AI Acts. Sie betreffen Dich als Content-Profi natürlich, wenn Du in der EU ansässig bist. Rund um dieses Gesetz kursieren allerdings einige Falschinformationen. Neulich las ich zum Beispiel die Behauptung, bald müsse ausnahmslos jeder KI-generierte Inhalt als solcher gekennzeichnet werden. Spoiler Alert: Das ist Unsinn. So weitreichend ist das Gesetz nicht.

Ich hoffe, dieser Artikel bringt Dir mehr Klarheit für Deine tägliche Content-Arbeit. Darin schaue ich mir Artikel 50 des AI Acts sowie den offiziellen Code of Practice genau an und erkläre, welche Regeln für die Content-Erstellung mit KI tatsächlich gelten.

Außerdem gehe ich darauf ein, dass es bei diesem Thema nicht nur um rechtliche Fragen geht, sondern auch um eine ethische Dimension.

Diesen Artikel habe ich im März 2026 veröffentlicht und im Juni 2026 aktualisiert.

Die wichtigste Regel für Texte

Schauen wir uns zunächst an, was das Gesetz zu Texten sagt. Hier ist Absatz 4 von Artikel 50 entscheidend. Er formuliert zunächst eine scheinbar klare Grundregel: Wer KI einsetzt, um Texte zu generieren oder zu manipulieren, und diese veröffentlicht, muss das offenlegen. Das gilt für Texte, die dazu bestimmt sind, die Öffentlichkeit über „Angelegenheiten von öffentlichem Interesse“ zu informieren.

Das genaue Zitat:

„Betreiber eines KI-Systems, das Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde.“

Zur Klärung eines Begriffs: Im rechtlichen Sprachgebrauch sind wir „Betreiber eines KI-Systems“, wenn wir Dienste wie ChatGPT, Gemini oder Claude nutzen.

Die eigentliche Frage lautet aber: Muss man alles kennzeichnen? Nein, denn das Gesetz formuliert auch eine wichtige Ausnahme von dieser Offenlegungspflicht. Du findest sie im Satz, der unmittelbar auf das obige Zitat folgt:

„Diese Pflicht gilt nicht, (…) wenn die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.“

In einfache Sprache übersetzt: Du musst den KI-Einsatz nicht offenlegen, wenn zwei Bedingungen erfüllt sind. Erstens muss der Text von Menschen überprüft worden sein. Zweitens muss eine Person oder ein Unternehmen die redaktionelle Verantwortung für die Veröffentlichung tragen.

Mit anderen Worten: Die manchmal fälschlicherweise zitierte „Pflicht zur Kennzeichnung von allem“ trifft nur vollständig automatisierte Texte. Die Idee dahinter ist, den Lesern deutlich zu machen, dass die Fakten und Aussagen in einem Text ohne menschliche Aufsicht von einer Maschine generiert wurden.

Für die tägliche Content-Arbeit bedeutet das: Wenn Du einen KI-generierten Entwurf Korrektur liest, bearbeitest und Informationen überprüfst, entfällt die gesetzliche Kennzeichnungspflicht. Gleichzeitig trägst Du für solche KI-Inhalte dieselbe Verantwortung wie für jede andere Veröffentlichung. Diese Verantwortung kannst Du nicht auf den Anbieter des KI-Tools abwälzen.

Der kürzlich veröffentlichte Code of Practice präzisiert diese Ausnahme der „redaktionellen Kontrolle“ etwas weiter. Content-Teams müssen klare interne Richtlinien für die menschliche Überprüfung festlegen. Außerdem muss eine konkrete Person benannt werden, die die redaktionelle Verantwortung trägt. Deren Kontaktdaten müssen veröffentlicht werden, um Rechenschaftspflicht zu gewährleisten.

Regeln für Bilder, Video und Audio

Während das Gesetz Redaktionsteams bei Texten viel Spielraum lässt, sind die Anforderungen an visuelle und audiovisuelle Inhalte auf den ersten Blick strenger. Auch hier bildet Absatz 4 von Artikel 50 die Grundlage. Im ersten Teil heißt es:

„Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.“

Eine redaktionelle Ausnahme wie oben für Texte gibt es hier nicht. In diesem Fall ist es irrelevant, ob eine Person oder ein Redaktionsteam dahintersteht und Verantwortung übernimmt.

Muss man also alle KI-generierten Bilder, Videos und Audiodateien kennzeichnen? Auch hier lautet die Antwort: Nein, nicht ausnahmslos. Das entscheidende Wort ist „Deep Fake“. Laut den Definitionen des AI Acts meint dieser Begriff …:

„… einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde“

Kurzum: Der Gesetzgeber ist offensichtlich in erster Linie an der Täuschungsgefahr interessiert.

Ein Beispiel für diese Auslegung: Du schreibst einen Text für die Tourismus-Website eines Seebades und lässt ein KI-Bild eines Strandes erstellen. In diesem Fall musst Du es kennzeichnen, weil das Bild nicht die Realität widerspiegelt, aber so wirken könnte. Wenn Du hingegen einen Ratgeberartikel für Urlauber schreibst und ein KI-generiertes Strandfoto rein zu illustrativen Zwecken verwendest, gilt diese Pflicht nicht.

Noch ein Beispiel: Du arbeitest für ein Modegeschäft und lässt KI-Bilder erstellen, auf denen fiktive Models die angebotenen Kleidungsstücke tragen. Das musst Du kennzeichnen, weil diese Bilder real wirken können, aber nicht die Realität widerspiegeln. Wenn Du hingegen eine Broschüre für einen Supermarkt erstellst und ein KI-Bild von Weintrauben verwendest, ist das nicht erforderlich. Es handelt sich schließlich nur um eine Symboldarstellung. Niemand erwartet, dass die Trauben im Laden genauso aussehen wie auf dem Produktbild.

Für künstlerische Formate gibt es außerdem eine spezifische Regel. Das Gesetz formuliert sie so:

„Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, so beschränken sich die in diesem Absatz festgelegten Transparenzpflichten darauf, das Vorhandensein solcher erzeugten oder manipulierten Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.“

Das gibt Dir bei kreativen Projekten einen gewissen Spielraum. Wenn Du ein Satire-Video oder ein Kunstwerk erstellst, musst Du den KI-Einsatz zwar nach wie vor transparent machen. Du bist aber nicht gezwungen, einen großen Warnhinweis auf das Bild zu kleben. Ein dezenter Hinweis im Abspann, in den Metadaten oder in der Bildbeschreibung sollte in solchen Fällen ausreichen.

Korrekt kennzeichnen: Das EU-Icon

Wenn Du Deine Inhalte kennzeichnen musst, bietet der Code of Practice einen standardisierten Weg dafür. Das EU-KI-Büro hat ein offizielles EU-Icon eingeführt. Diese visuelle Kennzeichnung gibt es in Varianten mit dem Text „AI GENERATED“ für vollständig künstlich erstellte Inhalte oder „AI MODIFIED“ für manipulierte Inhalte.

Das Dokument legt auch genau fest, wo diese Kennzeichnungen erscheinen müssen. Bei Bildern und Videos soll das Icon in der oberen rechten Ecke erscheinen. Bei Videos muss die Kennzeichnung zu Beginn und nach Unterbrechungen wie Werbeblöcken eingeblendet werden. Audiodateien erfordern zu Beginn einen kurzen hörbaren Hinweis. Bei Texten soll die Kennzeichnung in der Nähe der Überschrift oder im Impressum platziert werden.

Du musst nicht genau dieses Icon verwenden. Es ist aber natürlich trotzdem eine gute Idee.

Was die Tool-Anbieter leisten müssen

Bisher haben wir hauptsächlich über uns als Nutzer (die „Betreiber“ der KI-Tools) gesprochen. Aber der AI Act macht auch die Entwickler der KI-Modelle selbst verantwortlich. Diese werden als „Anbieter“ bezeichnet. Ihre Pflichten regelt Absatz 2 von Artikel 50.

Dort heißt es:

„Anbieter von KI-Systemen (…) stellen sicher, dass die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind.“

Unternehmen wie OpenAI oder Midjourney müssen ihre Systeme also so entwickeln, dass die generierten Inhalte unsichtbare Metadaten oder digitale Wasserzeichen enthalten. Diese sollen maschinenlesbar sein, um KI-Inhalte auf technischer Ebene erkennbar zu machen.

Der Code of Practice legt fest, dass Anbieter einen mehrschichtigen Ansatz verwenden müssen. Das bedeutet die Kombination aus digital signierten Metadaten und nicht wahrnehmbaren Wasserzeichen. Außerdem müssen sie ein kostenloses Erkennungstool bereitstellen. Damit können Nutzer und die Öffentlichkeit überprüfen, ob ein bestimmter Inhalt von ihren Systemen generiert wurde.

Als Content-Profi habe ich einen praktischen Tipp für Dich, wenn Du auf der sicheren Seite sein möchtest: Achte darauf, ob die von Dir verwendeten Tools diese Anforderung erfüllen. Bei Open-Source-Modellen, die Du unter anderem auf Kreativ-Plattformen findest, könnte das ein Schwachpunkt sein. Denk daran: Wer Inhalte veröffentlicht, trägt die Verantwortung dafür. Fehlt die technische Kennzeichnung, könnte das problematisch werden.

Diese Regeln sollen im November 2026 in Kraft treten.

Absatz 2 enthält allerdings auch eine Ausnahme:

„Diese Pflicht gilt nicht, soweit die KI-Systeme eine unterstützende Funktion für die Standardbearbeitung ausführen oder die vom Betreiber bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich verändern (…)“

Das bedeutet: Wenn Du eine KI lediglich als Hilfsmittel nutzt, um zum Beispiel Tippfehler zu finden, Sätze flüssiger zu gestalten oder die Helligkeit eines Fotos anzupassen, fallen diese Aktivitäten höchstwahrscheinlich nicht unter die Transparenzpflichten.

Die unvermeidlichen Graubereiche

Wie bei jedem neuen Gesetz gibt es Auslegungsspielraum. Klare Grenzen und Regeln werden sich erst in der Rechtspraxis herausbilden. Für uns Content-Profis bedeutet das, vorläufig mit gewissen Graubereichen zu leben.

Bei Texten ist mir zum Beispiel der Begriff „öffentliches Interesse“ aufgefallen. Er ist im Gesetzestext nicht definiert. Meint er alles, was nicht intern ist? Oder betrifft er nur besonders wichtige Informationen, etwa zu Gesundheits- oder Finanzthemen? Nehmen wir einen Blogbeitrag auf einer Unternehmenswebsite oder einen Fachartikel in einer Branchenzeitschrift als Beispiel: Fallen diese auch unter „öffentliches Interesse“? Und wo genau wird die Grenze gezogen?

Auch das Thema Täuschung bei „Deep Fakes“ erscheint mir recht vage. Wann könnte ein Video, ein Bild oder eine Tonaufnahme einer Person „fälschlicherweise als echt oder wahrheitsgemäß“? Und ab wann ist das überhaupt ein Problem? Wenn ich zum Beispiel ein KI-generiertes Bild von mir als LinkedIn-Profilfoto verwende, „ähnelt“ es einer „wirklichen Person“. Solange ich meinen Lebensunterhalt aber nicht mit meinem Äußeren verdiene, sehe ich nicht, welcher Schaden entsteht, wenn ich es nicht kennzeichne.

Das Gesetz spricht außerdem von „Standardbearbeitung“. Diese ist erlaubt, solange sich die Semantik eines Textes oder Bildes nicht „wesentlich“ ändert. Diese Grenze ist naturgemäß fließend, wie wir alle wissen. Rechtschreibfehler zu korrigieren scheint mir unproblematisch. Aber wenn eine KI einen Absatz umformuliert und dabei inhaltliche Nuancen anpasst, ist das dann eine „wesentliche“ Änderung?

Der kürzlich veröffentlichte Code of Practice beantwortet einige dieser Fragen. Aber für Begriffe wie „öffentliches Interesse“ oder „wesentliche Änderung“ ist weiterhin eine praktische Auslegung erforderlich. Gesunder Menschenverstand bleibt also notwendig. Im Zweifel ist Vorsicht die bessere Wahl.

Transparenz als ethische Entscheidung

Der rechtliche Rahmen des AI Acts ist jedoch nur eine Seite der Medaille. Für mich hat das Thema Transparenz auch eine ethische Dimension: Sollte man KI-Inhalte nicht immer aus Gründen der Ehrlichkeit kennzeichnen, auch wenn das Gesetz es nicht verlangt?

In der Content-Branche stehen wir an diesem Punkt leider vor einem Dilemma. Denn einerseits fühlt sich ethisches Verhalten gut an. Man tut „das Richtige“. Andererseits reagieren viele Menschen sehr emotional, sobald es um KI geht. Alles, was mit maschineller Unterstützung erstellt wurde, wird dann schnell als „Slop“ abgetan, egal wie viel Zeit, Mühe und Leidenschaft darin stecken.

Entsprechend ist die Versuchung groß, die künstliche Hilfe zu verbergen. Ich rate jedoch davon ab, besonders wenn Inhalte fast ausschließlich von Maschinen erstellt werden.

Wie ich es selbst handhabe: Beispiel Smart Content Report

Ein konkretes Beispiel: Ich stecke viel Energie und Leidenschaft in den Smart Content Report. Diese Website und der Newsletter kosten mich einige Stunden im Monat. Gleichzeitig hilft mir KI dabei sehr.

Es ist sehr verlockend, meinen KI-Einsatz einfach zu verschweigen. Ich könnte alles unter meinem eigenen Namen veröffentlichen oder ein paar fiktive Autoren hinzufügen, damit es nicht so offensichtlich ist.

Stattdessen entscheide ich mich für Transparenz, auch wenn manch einer meine Arbeit deshalb als „Slop“ abtun wird.

Deshalb gibt es auf dieser Website zwei Autorennamen:

Meinen eigenen Namen findest Du dort, wo ich die inhaltliche Führung bei einem Beitrag übernommen habe. Das gilt zum Beispiel für diesen Artikel. Google Gemini hat mir beim Schreiben geholfen, aber der Löwenanteil der Arbeit stammt von mir. Ich habe umformuliert, ergänzt, gelenkt und auch korrigiert: Gemini hatte zum Beispiel das Wort „Deep Fake“ im Gesetzestext im Abschnitt über Bild, Video und Audio ignoriert und zunächst nicht verstanden, dass die strengen Regeln nur unter bestimmten Umständen gelten. Das war ein perfektes Beispiel dafür, warum menschliche Kontrolle so wichtig ist.

Die Abkürzung „SCR“ verwende ich hingegen, wenn die KI einen zentralen Teil der Arbeit übernimmt. Ich wähle immer die Themen, aber eine KI schreibt die erste Textversion. Ich prüfe und überarbeite, erledige alle manuellen Aufgaben wie die Tags und bestimme die Überschrift.

In der Autorenbeschreibung ist das so erklärt:

„Artikel mit dem Autornamen SCR wurden mit KI-Hilfe erstellt. Jan Tissler wählt die Themen manuell aus. Jeder Beitrag wird von ihm vor der Veröffentlichung kontrolliert und bearbeitet. Er übernimmt die volle redaktionelle Verantwortung für die Inhalte.“

Laut AI Act müsste ich das nicht offenlegen. Ich tue es trotzdem.

Außerdem kannst Du genau nachlesen, wie ich diese Website erstelle und welche Prompts ich verwende.

Ich hoffe, dass sich diese Ehrlichkeit zusammen mit meiner Leidenschaft für das Thema am Ende durchsetzt. Und falls das nicht so sein sollte, habe ich einen wichtigen Trost: Ich kann mir weiterhin mit gutem Gewissen in die Augen schauen.