RAG (Retrieval-Augmented Generation) bezeichnet eine Technik, bei der KI-Sprachmodelle mit zusätzlichen, externen Informationsquellen angereichert werden. Dabei werden die Antworten des KI-Systems nicht nur aus seinem ursprünglichen Training generiert, sondern auch durch gezielt abgerufene (retrieved) aktuelle oder spezifische Daten ergänzt (augmented).
Man kann sich das wie einen Experten vorstellen, der nicht nur aus seinem Gedächtnis spricht, sondern während des Gesprächs auch in relevanten Dokumenten nachschlägt. Diese Methode verbessert die Genauigkeit und Aktualität der Antworten erheblich, da das System nicht ausschließlich auf sein „gelerntes Wissen“ angewiesen ist.
Beispielsweise könnte ein RAG-System bei einer Frage zu einem Unternehmen zunächst in dessen aktueller Geschäftsdokumentation nachsehen, bevor es antwortet. Dies reduziert das Risiko veralteter oder falscher Informationen und ermöglicht es dem System, auch über Themen zu sprechen, die nach seinem ursprünglichen Training entstanden sind.
RAG wird heute vielfach in Unternehmen eingesetzt, etwa um Kundenanfragen präziser zu beantworten oder interne Dokumente effizienter zu nutzen.