Neue Versicherung schützt Unternehmen vor (bestimmten) KI-Fehlern

Mehrere Versicherer von Lloyd’s of London haben ein neues Versicherungsprodukt eingeführt, das Unternehmen vor finanziellen Verlusten durch fehlerhafte KI-Systeme schützt. Die vom Startup Armilla entwickelten Policen decken Gerichtskosten und Schadenersatzforderungen ab, wenn KI-Tools wie Chatbots unter ihrer erwarteten Leistung bleiben. Laut eines Berichts von Harris und Heikkilä in der Financial Times zielt das Produkt auf die wachsende Sorge vor sogenannten „Halluzinationen“ von KI-Systemen ab. Bereits in der Vergangenheit musste Air Canada Rabatte gewähren, die ihr Kundenservice-Chatbot fälschlicherweise angeboten hatte. Armilla-CEO Ramakrishnan erklärte, dass die Versicherung greift, wenn die Leistung einer KI im Laufe der Zeit nachlässt – beispielsweise wenn ein System statt der anfänglichen 95% nur noch 85% korrekte Antworten liefert.