Feintuning für Qwen3-4B soll typische KI-Schreibmuster reduzieren

Eine angepasste Version von Qwen3-4B soll typische Muster von KI-Texten deutlich seltener verwenden und trotzdem für alltägliche Schreibaufgaben geeignet bleiben. Erik Markus Kannike schreibt bei 100toolkit.com, er habe das offene Modell so trainiert, dass es unter anderem Gedankenstriche, starre Gegenüberstellungen, Dreierlisten und rhetorische Fragen vermeidet.

Das Modell trägt den Namen qwen3-4b-deslop und lässt sich lokal mit Ollama oder llama.cpp ausführen. Die komprimierte Variante ist laut Kannike rund 2,5 GB groß und soll damit auf vielen Laptops laufen.

In einem Test mit 40 zuvor nicht verwendeten Prompts sank der Wert des eigenen Stilprüfers von 121 auf 12,5 auffällige Muster je 1.000 Wörter. Der Prüfer zählt bestimmte Formulierungen und Satzstrukturen, die Kannike mit formelhaften Assistenztexten verbindet. Nach seinen Messungen liegen 68 Prozent der Antworten des neuen Modells in einem Bereich, den er menschlichem Schreiben zuordnet.

Weniger Floskeln, aber weiterhin Schwächen

Für das Training setzte Kannike mehrere Schritte ein. Eine veränderte Fassung des Ausgangsmodells erzeugte zunächst Texte in einem schlichteren Stil. Geeignete Antworten filterte er nach Stil und Aufgabenerfüllung und nutzte sie anschließend für ein Feintuning mit einem LoRA-Adapter. Zusätzlich bearbeitete er vier Neuronen im Modell, um eine häufige Kontrastformulierung zu verringern.

Eine frühere Version erzielte zwar einen niedrigeren Stilwert, schrieb aber inhaltlich schwächer. Sie bezog in Meinungsbeiträgen teils keine klare Position, erfand Studien und verband Sätze auffällig oft mit bestimmten Wörtern. Für die endgültige Auswahl ergänzte Kannike Regeln für Merkmale wie Ich-Perspektive, E-Mail-Anreden, Länge und eine frühe Positionierung in Meinungsstücken.

Nach Angaben des Autors bleibt die Leistung bei 30 Wissensfragen erhalten, während die Aufgabenerfüllung wieder 80 Prozent erreicht. Er nennt jedoch einen flachen Schreibton und weiterhin erfundene Namen oder Orte als Grenzen. Die Bewertung beruht zudem auf selbst entwickelten Regeln, nicht auf einem Blindtest mit Leserinnen und Lesern.