Clef gegen Jev: Cloudflare verspricht schnellere Entscheidungen für KI-Agenten

Cloudflare veröffentlicht mit Clef und Clef-flash zwei Modelle, die KI-Systeme bei klar umrissenen Entscheidungen unterstützen sollen. Die Modelle liefern keine frei formulierten Antworten wie ein Chatbot. Stattdessen geben sie strukturierte Ergebnisse für feste Fragen aus, etwa für Ja-Nein-Entscheidungen, Auswahlmöglichkeiten oder Rangfolgen.

Cloudflare stellt die Modelle über Workers AI bereit und veröffentlicht die Modellgewichte unter der Lizenz Apache 2.0. Das Unternehmen erklärt in einem offiziellen Blogbeitrag, Clef solle Agenten dabei helfen, Informationen einzuordnen und Folgeaktionen auszulösen. Dazu zählen das Weiterleiten einer Support-Anfrage, eine Eskalation oder die Übergabe an einen Menschen. Es tritt damit in direkte Konkurrenz zu Jev von TypeSafe.

Solche Decision Models („Entscheidungsmodelle“) richten sich an Aufgaben mit vorgegebenen Antwortmöglichkeiten. Ein Unternehmen kann ihnen zum Beispiel eine Kundenanfrage übergeben und abfragen, ob sie dringend ist, welches Team zuständig ist und wie hoch die Auswirkung für den Kunden ausfällt. Das Modell gibt die Antwort in einem festgelegten Datenformat zurück, ergänzt um Wahrscheinlichkeiten. Software kann diese Ergebnisse direkt weiterverarbeiten.

Cloudflare setzt Clef nach eigenen Angaben bereits im Bereich Threat Intelligence ein. Dort soll das Modell Websites nach Kategorien bewerten. In einem Beispiel habe Clef eine Website inklusive Abruf und Darstellung in 2,2 Sekunden eingeordnet. Das allgemeine Sprachmodell gpt-oss-120b habe im selben Ablauf 4,7 Sekunden benötigt. Cloudflare zufolge lieferte Clef außerdem mehr Kategorien. Diese Angaben stammen vom Unternehmen selbst und sind in den vorliegenden Quellen nicht unabhängig überprüft.

Modellwahl statt freier Text

Clef basiert auf einer nachtrainierten und eingefrorenen Variante von Qwen3.8-27B. Für Clef-flash nutzt Cloudflare das kleinere Qwen3.5-9B. Das technische Prinzip soll Zeit sparen: Nach der Verarbeitung der Eingabe bewertet das System mögliche, im Schema erlaubte Antworten parallel. Es erzeugt also nicht erst eine längere Textkette Wort für Wort.

In den von Cloudflare veröffentlichten Messungen erreicht Clef eine mittlere Antwortzeit von 209,3 Millisekunden. Clef-flash kommt auf 38,8 Millisekunden. Für Jev weist die Vergleichstabelle 524,1 Millisekunden aus. Cloudflare berichtet zudem bessere Ergebnisse als Jev bei mehreren Tests zu Tool-Auswahl, Kundenservice, Banking-Anfragen und strukturierten API-Aufgaben. In einzelnen Disziplinen, darunter When2Call und BRIGHT, lag Jev jedoch vorn.

Nach Angaben von Cloudflare verarbeitet Clef auch Bilder und unterstützt ein Kontextfenster von 64.000 Tokens. Brandon Vigliarolo schreibt für The Register, dass Clef Bilder und Videos verarbeiten könne. Jev könne zwar ebenfalls bis zu 64.000 Tokens pro Anfrage verarbeiten, begrenze aber die Kombination aus Zustand und längster Einzelfrage auf 32.000 Tokens.

Cloudflare verspricht zudem Kompatibilität mit der Jev-API. Teams, die bereits Jev einsetzen, könnten Clef dadurch ohne umfassenden Umbau ihrer Anwendung testen. Clef soll für präzisere Entscheidungen dienen, Clef-flash für besonders zeitkritische Abläufe.

Offene Gewichte, geschlossene Trainingsdaten

Die Gewichte stehen öffentlich bereit, die Trainingsdaten jedoch nicht. The Register berichtet, dass Clef-flash für den lokalen Betrieb mindestens 41 GB GPU-Speicher benötigt. Für Clef nennt Cloudflare 85 GB. Diese Werte gelten laut Unternehmen für eine einzelne gleichzeitige Anfrage und ein Kontextfenster von 64.000 Tokens.

Laut The Register verlangt Cloudflare für die gehostete Nutzung 0,24 US-Dollar pro Million Tokens. Für Jev werden dagegen nur 0,042 US-Dollar pro Million Tokens genannt. Cloudflare nennt als Begründung für den Aufpreis kurze Wege über seine Edge-Infrastruktur. Das soll Verzögerungen senken, wenn ein Modell direkt in einem automatisierten Prozess Entscheidungen trifft.

Zusätzlich bietet Cloudflare zunächst betreute Anpassungen der Modelle an. Später soll eine Selbstbedienungsplattform folgen. Kunden sollen dort eigene Daten aus ihren Arbeitsabläufen sammeln, ein spezialisiertes Clef-Modell trainieren und es über Workers AI bereitstellen können. Als mögliche Einsatzfelder nennt Cloudflare Support-Triage, Trust and Safety sowie die Bewertung von Bots.

Quellen

• Clef: our open-source decision models – Cloudflare Blog
• Cloudflare debuts open-weight multimodal decision models Clef and Clef-flash, claiming they are smarter and faster than Jev, based on Qwen3.8-27B and Qwen3.5-9B – The Register