HallOumi überprüft KI-Output auf Halluzinationen

Oumi hat HallOumi veröffentlicht, ein Open-Source-Modell zur Überprüfung von KI-generierten Inhalten auf Halluzinationen. Das von ehemaligen Apple- und Google-Ingenieuren entwickelte Tool analysiert KI-Ausgaben satzweise und liefert Vertrauenswerte, spezifische Quellenangaben und verständliche Erklärungen. Sean Michael Kerner von VentureBeat berichtet, dass HallOumi Quelldokumente mit KI-Antworten vergleicht, um festzustellen, ob Behauptungen durch Beweise gestützt werden. CEO Manos Koukoumidis erläuterte, dass das System auch subtile Ungenauigkeiten erkennen kann, die sonst übersehen würden. Das Tool ergänzt bestehende Techniken wie Retrieval Augmented Generation (RAG) und bietet detailliertere Analysen als übliche Schutzmechanismen. Es sind zwei Versionen verfügbar: ein generatives 8B-Modell mit ausführlicher Analyse und ein recheneffizienteres Klassifikationsmodell.