Das Startup Patronus AI aus San Francisco hat eine Self-Serve-API eingeführt, die KI-Fehler wie Halluzinationen und unerwünschte Antworten in Echtzeit erkennt und verhindert. Laut CEO Anand Kannappan in einem Interview mit VentureBeat bietet die Plattform mehrere Innovationen, darunter „Judge Evaluators“, mit denen Unternehmen benutzerdefinierte Regeln in einfachem Englisch erstellen können, und Lynx, ein Halluzinationserkennungsmodell, das GPT-4 bei der Erkennung falscher medizinischer Aussagen übertrifft.
Das Unternehmen hat außerdem spezielle Tools wie CopyrightCatcher und FinanceBench entwickelt, um umfassenden Schutz gegen KI-Fehler zu bieten. Mit seinem Pay-as-you-go-Preismodell will Patronus AI den Zugang zu KI-Sicherheitstools für Startups und kleinere Unternehmen verbessern. Zu den frühen Nutzern gehören HP, AngelList und Pearson sowie Partnerschaften mit Tech-Giganten wie Nvidia, MongoDB und IBM.
