Google hat sein KI-Modell Gemma aus AI Studio entfernt, nachdem die US-Senatorin Marsha Blackburn dem Modell vorwarf, falsche Behauptungen über sie zu verbreiten. Die republikanische Senatorin aus Tennessee erklärte, dass Gemma auf die Frage nach Vorwürfen sexuellen Fehlverhaltens eine erfundene Geschichte über eine Wahlkampagne 1987 und einen Polizisten generiert habe. Blackburn stellte klar, dass nichts davon stimmt, auch nicht das Jahr der Kampagne, die tatsächlich 1998 stattfand.
In ihrem Brief an Google-CEO Sundar Pichai argumentierte Blackburn, dass diese Erfindungen Verleumdung darstellen und keine harmlosen „Hallucinations“ seien – ein Begriff, der häufig für KI-Fehler verwendet wird. Sie verwies auf eine ähnliche Klage des konservativen Aktivisten Robby Starbuck, der behauptet, Googles KI-Modelle hätten verleumderische Aussagen über ihn generiert.
Google reagierte mit der Entfernung von Gemma aus AI Studio. Das Unternehmen erklärte, dass das Modell nie als Consumer-Tool gedacht war. Gemma sei für Entwickler konzipiert, nicht für die Beantwortung faktischer Fragen. Laut Google nutzten Nicht-Entwickler das Modell auf eine Weise, für die es nicht vorgesehen war. Gemma bleibt über API-Zugang verfügbar.
Der Vorfall zeigt Risiken für Entwickler, die auf experimentelle KI-Modelle setzen. Diese Modelle können jederzeit von Plattformen entfernt werden und laufende Projekte beeinträchtigen. Google erklärte nicht, ob bestehende Projekte mit Gemma in AI Studio weiterhin zugänglich sind.
Quellen: TechCrunch, VentureBeat
