Amazon Web Services (AWS) führt eine neue Technologie ein, die mithilfe automatisierter Mechanismen KI-Halluzinationen reduzieren soll. Wie das Wall Street Journal berichtet, basiert das System „Automated Reasoning Checks“ auf mathematischer Logik, um die Korrektheit von KI-Antworten zu überprüfen.
Die Technologie nutzt dabei symbolische KI, einen Ansatz, der auf mathematischen Regeln statt auf Mustererkennung basiert. Kunden müssen zunächst eindeutige Richtlinien definieren, die als Wahrheitsgrundlage dienen. AWS-Vizepräsident Byron Cook betont, dass das System Halluzinationen zwar nicht vollständig verhindern, aber in klar definierten Bereichen deutlich reduzieren kann.
Amazon hat in den vergangenen zehn Jahren hunderte Experten für solche automatisierten Methoden eingestellt. PricewaterhouseCoopers setzt das Tool bereits in regulierten Branchen wie der Pharmaindustrie ein, um Compliance-Anforderungen zu erfüllen.
Der Forrester-Analyst Rowan Curran weist darauf hin, dass solche automatisierten Mechanismen nur ein Baustein einer umfassenderen Strategie sein sollten. Weitere wichtige Techniken seien Retrieval-Augmented Generation (RAG) und die Feinabstimmung von Modellen. Die Entwicklung ist bedeutsam, da Unternehmen KI-Systemen wegen ihrer Fehleranfälligkeit bisher oft skeptisch gegenüberstehen.
