OpenAI führt Text-Wasserzeichen für ChatGPT und Codex in der EU ein

OpenAI will Textausgaben von ChatGPT und Codex für Nutzerinnen und Nutzer in der Europäischen Union mit unsichtbaren Wasserzeichen versehen. API-Kunden weltweit können die Funktion dagegen freiwillig aktivieren.

In einem offiziellen Blogbeitrag kündigt OpenAI den Schritt als Teil der Umsetzung des EU AI Act an. Das Gesetz verlangt von Anbietern generativer KI, dass erzeugte Texte maschinenlesbar erkennbar sind.

Die Technik trägt den Namen textGrain. Sie beeinflusst die Wortwahl eines Modells so, dass ein statistisches Muster im Text entsteht. Ein Prüfwerkzeug soll dieses Muster erkennen können. Laut OpenAI lassen sich daraus jedoch weder Nutzer, Konten, Eingaben noch einzelne Unterhaltungen ableiten.

Zunächst will das Unternehmen den Detektor nur zugelassenen Forschenden und Fachorganisationen bereitstellen. OpenAI verweist auf mögliche Fehlalarme und übersehene Wasserzeichen. Deshalb soll das Werkzeug zum Start nicht frei öffentlich verfügbar sein.

Schon kleine Änderungen erschweren den Nachweis

Nach Angaben des Unternehmens hängt die Erkennungsrate stark von Länge und Art des Textes ab. Bei einer angestrebten Fehlalarmrate von 1 Prozent erkannte der Detektor Wasserzeichen in rund 80 Prozent der 200 Token langen Texte und in etwa 95 Prozent der 400 Token langen Texte zu Themen wie Psychologie. Bei Mathematik fiel die Quote deutlich niedriger aus, weil dort weniger Spielraum bei der Formulierung besteht.

Auch Bearbeitungen schwächen das Signal erheblich. In einem Test mit 400 Token sank die Erkennung von etwa 92 auf 66 Prozent, wenn 10 Prozent der Wörter durch Synonyme ersetzt wurden. Bei 25 Prozent geänderter Wörter lag sie nur noch bei 17 Prozent.

Ein gefundenes Wasserzeichen belegt laut OpenAI weder Urheberschaft noch Eigentum, Richtigkeit oder rechtliche Verantwortung. Umgekehrt beweist ein fehlender Fund nicht, dass ein Mensch den Text geschrieben hat. OpenAI will weitere technische Details veröffentlichen und die Technik später als Open Source bereitstellen.