Forscher arbeiten an neuen KI-Systemen, die ihre eigenen mathematischen Antworten überprüfen können. Das berichtet Cade Metz in der New York Times. Diese Technologie soll verhindern, dass Chatbots wie ChatGPT falsche Informationen liefern. Stattdessen können die neuen Systeme mathematische Beweise generieren und so ihre Antworten verifizieren.
Das Silicon Valley-Startup Harmonic entwickelt beispielsweise einen Chatbot namens Aristotle, der Probleme mit mathematischer Logik lösen kann. Auch Google DeepMind hat mit AlphaProof ein System vorgestellt, das bei der Internationalen Mathematik-Olympiade Silber-Niveau erreichte. Experten hoffen, diese Techniken künftig auch auf andere Bereiche wie Computerprogrammierung ausweiten zu können. Ziel ist es, KI-Systeme zu schaffen, die zuverlässige Informationen liefern und keine Halluzinationen mehr produzieren.
