Haftung: KI-Fehler könnten teuer werden für Google und andere Unternehmen

Ein deutsches Gericht hatte entschieden: Google haftet für Fehler in seinen KI-generierten Suchzusammenfassungen. Bruce Schneier schreibt auf Schneier on Security, dass das Gericht dabei Googles Argumentation zurückwies, wonach Nutzer KI-Ergebnisse selbst überprüfen müssten. Die Zusammenfassungen seien vielmehr „Ausdruck der Geschäftstätigkeit von Google“.

Das Urteil befeuert eine alte Debatte: Sind Internetplattformen bloße Übermittler wie Telefonanbieter, oder Verleger wie Zeitungen, die für ihre Inhalte haften? In den USA erlaubt Section 230 des Communications Decency Act Plattformen seit Jahrzehnten, je nach Interessenlage zwischen beiden Rollen zu wechseln. KI-Systeme verschärfen laut Schneier dieses Problem: Sie zitieren fremde Inhalte nicht nur, sie formulieren sie um. Damit handeln sie seiner Meinung nach redaktionell, ähnlich wie bei einem Zeitungsartikel.

Millionen Fehler, echte Folgen

Die Größenordnung des Problems ist erheblich. Tests haben gezeigt, dass Googles KI-Übersichten in etwa zehn Prozent der Fälle Fehler enthalten. Bei mehr als fünf Billionen Suchanfragen jährlich ergebe das rund 16.000 fehlerhafte Zusammenfassungen pro Sekunde. Ein konkreter Fall: Der kanadische Musiker Ashley MacIsaac verklagt Google, weil dessen KI ihn fälschlich als Sexualstraftäter bezeichnete.

Schneier verweist zudem auf ein Urteil aus Kanada von 2024. Damals musste Air Canada für ein falsches Rabattversprechen seines Chatbots geradestehen, obwohl das Unternehmen argumentierte, der Bot sei eine „separate juristische Einheit“.

Für Unternehmen, die KI-Agenten einsetzen, etwa im Kundenservice oder, wie geplant bei Visa und OpenAI, als persönliche Einkaufsassistenten, scheint die Botschaft eindeutig: Verantwortung lässt sich nicht so einfach an Algorithmen delegieren. Wer KI schreiben, beraten oder verhandeln lässt, muss für die Folgen einstehen, genauso wie bei menschlichen Mitarbeitenden.