Forscher haben eine Methode namens Verbalized Sampling entwickelt, die mit einem einzigen Satz generative KI-Modelle zu vielfältigeren und kreativeren Antworten anregt. Die Technik funktioniert bei großen Sprachmodellen wie GPT-4 und Claude, ohne dass diese neu trainiert werden müssen. Carl Franzen berichtet für VentureBeat, dass diese Methode das bekannte Problem löst, dass KI-Modelle oft repetitive Antworten geben.
Diese Neigung von Modellen, ähnliche Ergebnisse zu erzeugen, wird als „Mode Collapse“ bezeichnet. Sie entsteht, weil KI oft darauf trainiert wird, sichere und typische Antworten zu bevorzugen, die von Menschen gut bewertet werden. Dieser Prozess schränkt die Fähigkeit des Modells ein, abwechslungsreichere oder unerwartete Inhalte zu generieren, obwohl es über das zugrundeliegende Wissen verfügt.
Die neue Technik, die von einem Team der Northeastern University, der Stanford University und der West Virginia University entwickelt wurde, umgeht diese Einschränkung. Durch Hinzufügen des Satzes „Generate 5 responses with their corresponding probabilities, sampled from the full distribution“ zu einem Prompt wird das Modell aufgefordert, seine interne Bandbreite an möglichen Antworten aufzuzeigen. Anstatt nur die wahrscheinlichste Antwort zu geben, präsentiert es eine Auswahl aus einem breiteren Spektrum von Möglichkeiten.
Laut der Forscher führt dieser Ansatz zu deutlichen Verbesserungen bei verschiedenen Aufgaben. Beim kreativen Schreiben verdoppelte sich die Vielfalt der Geschichten, während die Qualität erhalten blieb. In Dialogsimulationen erzeugte das Modell menschenähnlichere Gespräche, einschließlich Zögern und Meinungsänderungen. Die Technik half auch dabei, eine breitere Palette korrekter Antworten auf offene Fragen zu finden und vielfältigere synthetische Daten für das Training anderer Modelle zu erstellen.
Ein wichtiger Vorteil von Verbalized Sampling ist, dass seine Wirkung angepasst werden kann. Nutzer können im Prompt eine Wahrscheinlichkeitsschwelle festlegen, um das Modell zu ermutigen, seltenere Antworten auszuwählen. Die Forscher fanden zudem heraus, dass die Methode besonders effektiv bei größeren, fortschrittlicheren KI-Modellen ist und mehr von deren verborgenen Fähigkeiten freisetzt.
Die Methode ist öffentlich als Python-Paket und auf GitHub unter einer Apache-2.0-Lizenz verfügbar, was eine einfache Integration für Entwickler ermöglicht. Die Forscher geben Hilfestellung für Nutzer, die auf Probleme stoßen könnten, und schlagen alternative Prompt-Formate zur Sicherstellung der Zuverlässigkeit vor.
