Die Google-Tochter DeepMind hat mit SynthID-Text ein System entwickelt, um von Large Language Models (LLMs) erzeugte Texte mit digitalen Wasserzeichen zu versehen. Durch subtile Änderungen der Wortwahrscheinlichkeiten während der Textgenerierung bettet SynthID-Text eine erkennbare statistische Signatur ein, ohne Qualität, Genauigkeit oder Geschwindigkeit der Ausgabe zu beeinträchtigen. Das Tool wurde erfolgreich an 20 Millionen Eingabeaufforderungen getestet und in Googles Chatbot Gemini integriert, ist jedoch noch nicht ausreichend, um bearbeitete oder zusammengefasste Texte zuverlässig zu identifizieren.
Google hat SynthID-Text für einige Entwickler und Unternehmen verfügbar gemacht, doch eine breite Einführung und Interoperabilität zwischen KI-Anbietern wäre nötig, um die Flut von KI-generierten Inhalten im Internet wirksam zu bekämpfen, schreibt IEEE Spectrum. Bruce MacCormack von der Coalition for Content Provenance and Authenticity (C2PA) sieht Potenzial in dem Ansatz, warnt jedoch vor praktischen Herausforderungen bei der Umsetzung und beschreibt die Forschung als „ersten Schritt auf einem langen Weg“.
