Google DeepMinds „Backstory“ unterstützt Faktenchecks zu verdächtigen Bildern

Google DeepMind erprobt mit Backstory ein KI-gestütztes Werkzeug für die Prüfung von potenziell manipulierten, irreführenden oder KI-generierten Bildern. Andrew Deck schreibt für Nieman Lab, dass der Dienst über Googles Trusted Testers Program ausgewählten Journalistinnen und Journalisten, OSINT-Fachleuten, Bibliotheken sowie Forschenden zur Medienkompetenz offensteht.

Nutzer laden dazu ein Bild hoch und stellen eine einfache Frage. Backstory bündelt anschließend mehrere Prüfschritte. Das System sucht etwa nach Hinweisen auf KI-Erzeugung und Bearbeitung, führt Rückwärtssuchen durch und ermittelt frühere Fundstellen im Netz. Das Ergebnis ist ein Bericht mit Quellenangaben sowie einem Protokoll der verwendeten Werkzeuge.

Das indische Medienhaus India Today setzt Backstory vor allem zu Beginn seiner Faktenchecks ein. Die Redaktion prüft alle Angaben aus dem Tool weiterhin selbst, bevor sie etwas veröffentlicht. Laut Teamleiter Bal Krishna spart der Dienst Zeit, weil er Aufgaben zusammenführt, für die bisher mehrere Werkzeuge und Zugänge nötig waren.

Kontext ist oft wichtiger als der KI-Nachweis

Backstory kann nach SynthID-Wasserzeichen in Bildern suchen, die mit Googles Bildgenerator Nano Banana erstellt wurden. Außerdem prüft es Content Credentials, also verschlüsselte Metadaten nach dem C2PA-Standard. Der Experte für digitale Informationskompetenz Mike Caulfield hält jedoch die Recherche zur Geschichte eines Bildes für besonders nützlich. Sie kann zeigen, ob ein altes oder themenfremdes Foto in einem neuen, falschen Zusammenhang verbreitet wird.

Das Werkzeug hat zugleich klare Grenzen. Es verarbeitet bisher nur Bilder und findet nur Inhalte, die von Suchmaschinen erfasst wurden. Beiträge aus geschlossenen Gruppen bei WhatsApp oder Signal können außerhalb seines Blickfelds liegen. Auch Inhalte von TikTok sind nicht immer auffindbar.

Hinzu kommt ein bekanntes Problem großer Sprachmodelle: Sie können ähnliche Bilder verwechseln. Deck berichtet, dass Backstory sein Porträtfoto zunächst fälschlich einem anderen Journalisten zuordnete. Google weist selbst darauf hin, dass das System Fehler machen kann. Backstory liefert daher Anhaltspunkte für die Recherche, ersetzt aber keine redaktionelle Prüfung.