Meta testet neues Tool zur Erkennung KI-generierter Bilder aus Muse Image

Meta stellt ein neues Tool vor, das Bilder und Videos erkennt, die mit dem KI-Modell Muse Image entstanden sind. Karissa Bell berichtet für Engadget, dass das webbasierte Tool nach unsichtbaren Wasserzeichen namens Content Seal sucht. Diese bleiben laut Meta auch nach dem Zuschneiden, Komprimieren, Skalieren oder einem Screenshot erhalten.

Content Seal markiert einen neuen Ansatz für Meta. Frühere KI-Bilder trugen noch ein sichtbares Logo unten rechts. Die in Muse Image verwendete Version ist proprietär. Meta habe aber bereits Open-Source-Varianten ähnlicher Wasserzeichen-Technologie veröffentlicht, teilt das Unternehmen Engadget mit. Aktuell erkennt das Tool nur Inhalte aus Muse Image. Meta plant jedoch, Content Seal auch auf KI-generierte und bearbeitete Videos auszuweiten, etwa aus dem kommenden Modell Muse Video.

Laut den FAQ von Meta bedeutet ein positives Ergebnis, dass ein Bild mit der Meta-AI-App oder meta.ai erstellt oder bearbeitet wurde. Ein negatives Ergebnis spricht dagegen.

Deutliche Lücken im System

Bells Test zeigt einige Schwächen. Die Erkennung ist bisher nicht in die Meta-AI-App selbst integriert. Auf direkte Nachfrage antwortete der App-Assistent, er könne nicht überprüfen, ob ein Bild von einer KI stamme. Das Tool erkannte zudem keine Bilder aus älteren Versionen von Metas KI-Modellen. Auch mit anderen Standards wie SynthID oder C2PA Content Credentials ist Content Seal nicht kompatibel. Zusätzlich gilt ein tägliches Limit für die Anzahl der Prüfungen.

Der Start des Tools folgt auf Kritik von Metas Oversight Board. Das Gremium bemängelte in diesem Jahr, dass Meta Wasserzeichen auf eigenen KI-Inhalten nur uneinheitlich einsetze.