Fine Tuning bezeichnet das nachträgliche Optimieren eines vortrainierten KI-Modells auf eine bestimmte Aufgabe oder ein Fachvokabular.
Beim Training dieser Modelle wurden zunächst sehr umfangreiche Datenmengen aus dem Internet verarbeitet, um ein generelles Verständnis zu erlernen. Fine Tuning passt dieses generelle Wissen dann gezielt für einen konkreten Anwendungsfall an.
Ein Beispiel: Ein Versicherungsunternehmen möchte einen KI-basierten Chatbot für die Kundenkommunikation einsetzen. Hierfür wird das bestehende Sprachmodell auf Basis von Versicherungsdokumenten, Kunden-Chats und Fachbegriffen dieses Unternehmens nachtrainiert. Der Chatbot erlangt so das nötige Domänenwissen, um Versicherungsfragen treffend zu beantworten.
Beim Fine Tuning findet im Gegensatz zum ursprünglichen Training meist nur eine Optimierung der Gewichtungen zwischen den Neuronen des Modells statt. Die Architektur selbst bleibt unverändert. Der Vorteil: Mit vergleichsweise wenig zusätzlichen Trainingsdaten lässt sich die Leistung deutlich verbessern.
Der Unterschied zu RAG (Retrieval Augmented Generation) besteht darin, dass beim Fine Tuning eine dauerhafte Anpassung des Sprachmodells erfolgt. Bei RAG werden stattdessen bei jeder Anfrage zusätzliche Informationsquellen in Echtzeit abgefragt. Es findet kein erneutes Training statt.