Google stoppt KI-Funktion für Satellitenbilder nach Kritik

Google hat eine neue KI-Funktion in Google Earth vorerst zurückgezogen. Sie konnte auf Basis von Texteingaben künstliche Satellitenbilder erzeugen und löste bei Journalisten, Menschenrechtsgruppen und Experten erhebliche Sorgen aus.

Geoff Brumfiel berichtet für NPR, dass Google das Werkzeug nur einen Tag nach der Vorstellung abschaltete. Das Unternehmen erklärt, es habe Bilder gesehen, die offenbar gegen seine Richtlinien verstießen. Nun wolle Google zusätzliche Schutzmechanismen entwickeln.

Nutzer konnten in der Webversion von Google Earth einen Ort auswählen, auf „create image“ klicken und anschließend beschreiben, was auf dem Bild zu sehen sein sollte. Google stellte die Funktion als kreatives Angebot vor. Fachleute sahen darin jedoch ein Werkzeug, um falsche Ereignisse mit dem Anschein seriöser Satellitenaufnahmen zu verbreiten.

Der Open-Source-Forscher Henk van Ess erklärte gegenüber NPR, Eingaben zu Flüchtlingen an der mexikanischen Grenze, einem Atomkraftwerk im Iran, einem Flugzeugunglück in Amsterdam und einem bombardierten Krankenhaus in Gaza seien nicht abgewiesen worden. NPR erzeugte zudem Bilder eines brennenden iranischen Kharg Island und eines überfluteten Kapitolgeländes in Washington – komplett erfunden.

Risiko für die Überprüfung von Fakten

Satellitenbilder helfen Redaktionen und Ermittlern dabei, Ereignisse in schwer zugänglichen Regionen zu prüfen. Sie werden mit Videos, Fotos und anderen Hinweisen abgeglichen, um Orte und Zeitpunkte zu bestätigen.

Jake Godin von Bellingcat sagte NPR, Satellitenbilder hätten bislang als vergleichsweise schwer fälschbar gegolten. Eine leicht bedienbare KI-Funktion könne die Herstellung glaubwürdiger Fälschungen deutlich vereinfachen.

Google verweist auf das SynthID-Wasserzeichen für KI-Bilder und auf Beschränkungen bei schädlichen Inhalten. Kritiker bezweifeln, dass dies genügt. Falsche Bilder könnten sich rasch verbreiten. Zugleich könnten Akteure echte Satellitenaufnahmen künftig leichter pauschal als KI-Fälschungen abtun.