Googles SynthID übersteht zahlreiche Bearbeitungen, stoppt aber keine KI-Täuschungen

Googles unsichtbares Wasserzeichen SynthID bleibt auch nach starker Komprimierung, Größenänderungen und Bildschirmfotos oft erkennbar. Gegen KI-Desinformation reicht diese Technik jedoch nicht aus.

Ryan Whitwam schreibt bei Ars Technica, dass SynthID in Tests nach 300 Durchläufen aus Komprimierung und erneuter Speicherung noch nachweisbar ist. Google bettet die Kennzeichnung direkt in die Bildpunkte ein. Damit ist sie widerstandsfähiger als reine Metadaten, die sich durch einen Screenshot oder das erneute Speichern einer Datei leicht entfernen lassen.

Die Belastungsprobe zeigt aber auch eine Schwachstelle. Ein Zuschnitt von rund 20 Prozent konnte das Wasserzeichen bei bereits stark komprimierten Bildern unkenntlich machen. Google selbst bezeichnet SynthID nicht als Schutz gegen gezielte Angriffe. Das Unternehmen hält technische Details zurück und verweist auf Möglichkeiten, das System bei Bedarf anzupassen.

Viele Hürden bei der Prüfung

Allerdings ist auch die alltägliche Anwendbarkeit begrenzt. Die Prüfung läuft über Gemini und erlaubt laut Bericht ungefähr zehn Bildabfragen pro Tag. Wer viele zweifelhafte Beiträge prüfen will, kann daher schnell an Grenzen stoßen.

Zudem fehlt eine einheitliche Infrastruktur. OpenAI und Runway setzen zwar ebenfalls auf SynthID-Technik, ihre Kennzeichnungen werden jedoch nicht automatisch von Googles Prüfsystem erkannt. Umgekehrt gilt das ebenfalls. Ohne Kenntnis der Herkunft eines Bildes kann die Suche nach dem passenden Prüfwerkzeug erfolglos bleiben.

Das grundsätzliche Problem ist größer: Offene Modelle und zahlreiche kleinere Anbieter erzeugen Inhalte ohne Wasserzeichen oder Herkunftsnachweis. Fehlt eine Kennzeichnung, ist das also kein Beleg für Echtheit.

Als Ergänzung nennt der Bericht den Standard C2PA. Diese kryptografisch geschützten Metadaten können festhalten, wann und wie eine Datei entstanden ist und ob sie bearbeitet wurde. Sie lassen sich zwar entfernen, etwa durch Screenshots. Dennoch könnte der Nachweis vertrauenswürdiger Herkunft wichtiger werden als der Versuch, jede KI-Fälschung in einer kaum überschaubaren Menge von Inhalten zu markieren.