Inception hat mit Mercury 3 ein neues Large Language Model vorgestellt, das im Kern auf der Diffusionstechnik basiert. Nach Angaben des Unternehmens erzeugt das Modell mehr als 1.000 Tokens pro Sekunde und soll bei ausgewählten Tests mit schnellen Modellen von OpenAI und Anthropic mithalten oder sie übertreffen.
In einem offiziellen Blogbeitrag kündigt Inception für Mercury 3 eine Geschwindigkeit von 1.068 Tokens pro Sekunde auf Nvidia-GPUs an. Das Unternehmen vergleicht sein Modell mit GPT-6 Luna, Claude Haiku 5.5 und GLM-5.3 Flash. Mercury 3 sei je nach Aufgabe vier- bis achtmal schneller. Die Angaben zu den Vergleichen und Benchmarks stammen von Inception und lassen sich anhand der vorliegenden Quellen nicht unabhängig prüfen.
Das Modell richtet sich vor allem an Anwendungen, bei denen kurze Reaktionszeiten wichtig sind. Inception nennt Sprach- und Chat-Support, digitale Nachhilfe, Suche, Datenverarbeitung, Browser-Automatisierung und Web-Agenten. Mercury 3 kann Kontexte mit bis zu einer Million Tokens verarbeiten. Damit eignet es sich grundsätzlich auch für lange Dokumente oder größere Materialsammlungen.
Textproduktion mit parallelen Schritten
Herkömmliche Sprachmodelle erzeugen Text meist schrittweise. Sie berechnen ein Token nach dem anderen. Das nächste Token baut dabei auf dem vorherigen auf. Dieses autoregressive Verfahren ist weit verbreitet, kann die Ausgabe aber verlangsamen.
Diffusionsmodelle verfolgen einen anderen Ansatz. Sie können mehrere Teile einer Antwort gleichzeitig bearbeiten und das Ergebnis in mehreren Durchgängen verfeinern. Bei Bild- und Videomodellen ist dieses Prinzip bereits etabliert. Inception überträgt es auf Text, um die parallele Rechenleistung von Grafikprozessoren besser auszunutzen.
Jason Hiner berichtet für The Deep View, dass Mercury 3 mehr als 40-mal so viele Parameter wie Mercury 1 besitzt. Eine genaue Zahl nennt Inception nicht. Das Unternehmen erklärt zudem, die Leistung auf seinen Standard-Benchmarks habe sich von Mercury 1 mini bis Mercury 3 verdreifacht.
Laut The Deep View setzte Inception auch Gruppen von Mercury-3-Agenten ein, um das Modell weiter zu verbessern. Dieser Prozess der rekursiven Selbstverbesserung habe die Geschwindigkeit um weitere 16 Prozent erhöht. Welche Aufgaben dabei genutzt wurden und wie die Änderungen genau aussehen, bleibt offen.
Preis und Einsatzfelder
Der reguläre Preis liegt laut Inception bei 0,20 US-Dollar pro Million Eingabe-Tokens und 0,70 US-Dollar pro Million Ausgabe-Tokens. Zum Start verlangt das Unternehmen die Hälfte. Das sind 0,10 US-Dollar für Eingaben und 0,35 US-Dollar für Ausgaben. Zwischengespeicherte Eingabe-Tokens kosten 90 Prozent weniger als der reguläre Eingabepreis.
Mercury 3 ist über die Inception-API sowie über OpenRouter, Baseten und Vercel verfügbar. Die Schnittstelle ist mit der OpenAI-API kompatibel. Das kann die Einbindung in bestehende Anwendungen erleichtern.
Als frühe Anwender nennt Inception unter anderem TinyFish AI, General Learning, Octen AI und Lorikeet. TinyFish erklärt, Mercury 3 habe in einem eigenen Test die Hälfte von 50 Live-Aufgaben zur Web-Navigation gelöst. Octen berichtet für Tests seiner Sense API von einer mittleren Generierungszeit von 0,9 Sekunden. Diese Werte beruhen auf Angaben der jeweiligen Unternehmen.
Entscheidend für den Markterfolg dürfte sein, ob Diffusionsmodelle bei realen Aufgaben dauerhaft Qualität und Geschwindigkeit verbinden können. Besonders interessant sind sie für Produkte, bei denen eine KI-Antwort ohne merkliche Wartezeit erscheinen soll.
Quellen
- Mercury 3: Diffusion at scale – Inception
- Inception launches Mercury 3, a diffusion-based LLM it claims is comparable to Luna and Haiku models but 4x to 8x faster, generating ~1,000 tokens per second – The Deep View
Bleib auf dem Laufenden
KI für Contentprofis: die neuesten Tools, Tipps und Trends. Alle 14 Tage in deine Inbox: