Deutsches Gericht urteilt: Händler haften vollständig für Fehler ihrer KI-Chatbots

Das Oberlandesgericht Hamm hat entschieden: Unternehmen haften uneingeschränkt für irreführende Ausgaben ihrer KI-Chatbots. Yvonne Bachmann berichtet für Händlerbund News über das Urteil vom 12. Mai 2026 (Az.: 4 UKl 3/25).

Geklagt hatte die Verbraucherzentrale Nordrhein-Westfalen gegen ein medizinisches Dienstleistungsunternehmen. Dessen Chatbot hatte auf Kundenanfragen eigenständig falsche Facharzttitel für die Geschäftsführer erfunden. Das Unternehmen argumentierte, das KI-System agiere weitgehend autonom. Die Fehler seien nicht vorhersehbar gewesen.

Das Gericht ließ dieses Argument nicht gelten. In seiner Begründung stellte es klar: Der Einsatz lernfähiger Algorithmen gilt rechtlich als normales Verhalten des Betreibers. Dass ein KI-Sprachmodell Antworten ohne menschliches Zutun generiert, entbindet nicht von der Verantwortung. Die Haftung gilt laut Urteil sogar dann, wenn das System ursprünglich ausschließlich mit korrekten Daten trainiert wurde.

Technische Absicherung ist Pflicht

Entscheidend war ein konkreter Umstand: Nach der Abmahnung gelang es dem Unternehmen, die fehlerhaften Ausgaben mit Keyword-Filtern und gezielten Prompt-Anweisungen zu blockieren. Das Gericht schloss daraus, dass diese Maßnahmen bereits vor dem ersten Einsatz des Chatbots hätten umgesetzt werden müssen.

Die Richter räumten zudem mit einer verbreiteten Annahme auf. Viele Nutzer vertrauen computergenerierten Antworten besonders stark, weil sie Maschinen als weniger fehleranfällig als Menschen wahrnehmen. Ein grundsätzliches Misstrauen gegenüber KI-Ausgaben könne daher nicht vorausgesetzt werden.

Wegen der grundsätzlichen Bedeutung der Zurechnungsfragen hat der Senat die Revision zugelassen. Der Fall geht damit vor den Bundesgerichtshof. Das Urteil ist noch nicht rechtskräftig.