Liquid AI veröffentlicht kompaktes Agentenmodell für lokale Geräte

Liquid AI hat mit LFM2.5-2.6B ein Open-Weight-Sprachmodell vorgestellt, das KI-Agenten direkt auf Geräten wie Smartphones, Notebooks und Raspberry Pi ausführen kann. Carl Franzen berichtet für VentureBeat, dass sich das Modell vor allem an Unternehmen richtet, die Daten nicht in die Cloud übertragen möchten oder lokale Verarbeitung benötigen.

Das Modell hat 2,6 Milliarden Parameter, verarbeitet bis zu 128.000 Token Kontext und unterstützt Tool Calling direkt. Es kann dadurch beispielsweise auf Kalender, Dokumentenablagen oder Anwendungen zur Prozessautomatisierung zugreifen. Liquid AI sieht den Schwerpunkt bei häufigen, klar abgegrenzten Aufgaben. Für anspruchsvolle Programmieraufgaben empfiehlt das Unternehmen weiterhin größere Modelle.

Nach Angaben von Liquid AI benötigt LFM2.5-2.6B weniger als 2,5 GB Arbeitsspeicher. Auf einem Smartphone soll es rund 30 Ausgabetoken pro Sekunde erreichen. Das Unternehmen zeigt zudem Einsätze auf einem Raspberry Pi. Unabhängige Prüfungen dieser Leistungswerte liegen nicht vor.

Auf den Einsatz mit Werkzeugen trainiert

Liquid AI hat das Modell nach eigenen Angaben in Agentenumgebungen wie Hermes Agent und OpenClaw trainiert. Im Mittelpunkt standen nicht nur Chat-Antworten, sondern der Umgang mit Werkzeugen, Recherche, Dokumenten und Aufgaben aus dem Arbeitsalltag. Zusätzlich entwickelte das Unternehmen eine eigene Agentenumgebung für Smartphones, die auch Hintergrundaufgaben lokal ausführen kann.

Die Gewichte stehen bei Hugging Face bereit. Dazu kommen ein Basismodell für Anpassungen sowie das Fine-Tuning-Framework LEAP. Unterstützt werden unter anderem llama.cpp, MLX, vLLM, SGLang und ONNX.

In den von Liquid AI veröffentlichten Vergleichstests erzielt das Modell gute Werte bei Anweisungsbefolgung und Tool Use, auch gegenüber größeren kleinen Modellen von Google und Alibaba. Diese Ergebnisse stammen jedoch vom Anbieter selbst. Anders als einige Konkurrenzmodelle verarbeitet LFM2.5-2.6B nur Text.

Für Unternehmen ist auch die Lizenz relevant. Die LFM Open License erlaubt kommerzielle Nutzung bis zu einem Jahresumsatz von 10 Millionen US-Dollar. Größere Firmen benötigen eine gesonderte Vereinbarung mit Liquid AI. Das unterscheidet das Modell von Angeboten mit freizügigeren Apache-2.0- oder MIT-Lizenzen.