Die Datenschutzorganisation Noyb hat eine DSGVO-Beschwerde gegen OpenAI eingereicht, nachdem ChatGPT fälschlicherweise behauptete, ein Norweger hätte zwei seiner Kinder ermordet. Die KI-Anwendung generierte völlig erfundene Informationen über Arve Hjalmar Holmen, wonach er wegen Mordes an seinen Söhnen zu 21 Jahren Haft verurteilt worden sei, wie TechCrunch-Autorin Natasha Lomas berichtet.
Der Fall verdeutlicht die ernsten Probleme mit KI-Halluzinationen, die falsche personenbezogene Daten erzeugen. ChatGPT nannte zwar einige korrekte Details über Holmen, wie seinen Heimatort und dass er drei Kinder hat, erfand jedoch die extremen Anschuldigungen.
Noyb argumentiert, dass OpenAI gegen die DSGVO verstößt, die Richtigkeit personenbezogener Daten vorschreibt. Joakim Söderberg, Datenschutzanwalt bei Noyb, erklärte: „Man kann nicht einfach falsche Informationen verbreiten und am Ende einen kleinen Haftungsausschluss hinzufügen.“
OpenAI teilte mit, dass sie weiterhin an der Verbesserung der Genauigkeit arbeiten und dass die Beschwerde eine ältere Version von ChatGPT betrifft, die inzwischen mit Suchfunktionen erweitert wurde.
Nach einem Modell-Update erzeugte ChatGPT die falschen Behauptungen über Holmen nicht mehr. Noyb befürchtet jedoch, dass falsche Informationen noch im KI-Modell vorhanden sein könnten.
Die Beschwerde wurde bei der norwegischen Datenschutzbehörde eingereicht. DSGVO-Verstöße können mit Strafen von bis zu 4% des globalen Jahresumsatzes geahndet werden und möglicherweise Änderungen an KI-Produkten erzwingen.