Overfitting (zu Deutsch: Überanpassung) bezeichnet ein häufiges Problem beim Training von KI, bei dem das Modell die Trainingsdaten zu genau „auswendig lernt“, anstatt allgemeingültige Muster zu erkennen.
Man kann sich das wie einen Schüler vorstellen, der für eine Mathematikprüfung nur die Beispielaufgaben aus dem Lehrbuch auswendig lernt, statt die zugrundeliegenden Regeln zu verstehen. Wenn in der Prüfung dann leicht veränderte Aufgaben gestellt werden, scheitert er.
Ähnlich verhält es sich bei KI-Systemen mit Overfitting: Das Modell erzielt zwar bei den Trainingsdaten hervorragende Ergebnisse, versagt aber bei neuen, unbekannten Daten. Dies ist besonders bei generativer KI problematisch, da diese flexibel auf neue Situationen reagieren soll.
Um Overfitting zu vermeiden, nutzen Entwickler verschiedene Techniken, etwa das Training mit einer größeren Vielfalt an Daten oder das gezielte „Vergessen“ zu spezifischer Details. Das Ziel ist dabei stets, ein ausgewogenes Verhältnis zwischen Genauigkeit und Verallgemeinerungsfähigkeit zu erreichen.