DSpark: So will DeepSeek KI-Antworten deutlich beschleunigen

Das chinesische KI-Unternehmen DeepSeek hat ein neues Framework namens DSpark veröffentlicht. Es soll die Antwortgeschwindigkeit seines Flaggschiffmodells V4 deutlich steigern. Ben Jiang berichtet für die South China Morning Post, dass DSpark die Antwortgeschwindigkeit pro Nutzer um bis zu 85 Prozent erhöht. Gleichzeitig soll der Bedarf an leistungsstarken und teuren Chips sinken.

Das Problem, das DSpark lösen soll, kennen viele: KI-Tools brauchen bei langen Antworten spürbar Zeit. Herkömmliche Modelle erzeugen ihre Ausgabe Token für Token, also Wort für Wort. Das belastet Grafikprozessoren (GPUs) stark und führt zu langen Wartezeiten. DeepSeek bezeichnet dies als einen der größten Engpässe beim Betrieb von KI-Systemen.

So funktioniert DSpark

• Ein leichtgewichtiges Entwurfsmodell schlägt zunächst mögliche Antworten vor.
• Ein größeres Modell prüft diese Vorschläge in Gruppen, statt einzeln.
• Eine semi-autoregressive Methode erlaubt es, mehrere Token gleichzeitig zu erzeugen.
• Ein konfidenzbasiertes Scheduling-System passt den Prüfaufwand dynamisch an die aktuelle Auslastung an.

Diese Kombination soll Geschwindigkeit und Qualität der Ausgabe in Balance halten. Das Scheduling-System sorgt dafür, dass das System auch bei schwankender Nachfrage stabil bleibt.

Für Content-Profis und andere Nutzer ohne technischen Hintergrund bedeutet das vor allem eines: KI-Tools, die auf dieser Technologie basieren, könnten sich deutlich reaktionsschneller anfühlen. Besonders bei der Generierung längerer Texte dürfte der Unterschied spürbar sein. Unternehmen, die KI-Dienste betreiben, könnten zudem von niedrigeren Betriebskosten profitieren, da weniger Rechenleistung für die gleiche Nutzerzahl nötig wäre.

Die Veröffentlichung spiegelt einen breiteren Trend in der chinesischen KI-Branche wider. Statt sich ausschließlich über Modellleistung zu differenzieren, rücken Kosteneffizienz und Nutzererfahrung zunehmend in den Vordergrund.