Nvidia bringt Nemotron 3.5 Super VL für Unternehmensagenten

Nvidia hat mit Nemotron 3.5 Super VL ein offenes Modell mit 120 Milliarden Parametern vorgestellt. Es soll KI-Agenten dabei helfen, PDFs, Tabellen, Diagramme, Bilder und Webseiten gemeinsam auszuwerten. Carl Franzen berichtet für VentureBeat, dass Nvidia damit vor allem komplexe Unternehmensaufgaben adressiert, bei denen Agenten Dokumente lesen, Regeln anwenden und Werkzeuge einsetzen müssen.

Das Modell erweitert die größere Nemotron-Super-Reihe um visuelles Verständnis. Unternehmen können Super VL mit eigenen Daten, internen Abläufen und Werkzeugen nachtrainieren. Anschließend lässt sich das Modell laut Nvidia in der Cloud oder auf eigener Infrastruktur betreiben, etwa wenn Anforderungen an Datenschutz oder Datenstandorte dies verlangen.

Nvidia nennt Anwendungen in der Finanzprüfung, bei Versicherungsfällen, in der IT-Sicherheit, Forschung und Softwareentwicklung. In einer Grafik zeigt das Unternehmen Verbesserungen von 9 bis 44 Prozent gegenüber dem Basismodell, nachdem Partner das Modell auf spezielle Aufgaben trainiert hatten. Bei einzelnen Tests liegen diese angepassten Varianten laut Nvidia vor genannten Claude- und GPT-Modellen.

Diese Werte erlauben jedoch keinen allgemeinen Vergleich der Grundmodelle. Nvidia veröffentlicht zu der Grafik keine vollständigen Aufgabenbeschreibungen, Stichprobengrößen oder Testabläufe. Unternehmen müssen daher prüfen, ob das Modell ihre eigenen Dokumente korrekt ausliest und interne Vorgaben zuverlässig befolgt.

Daneben verweist Nvidia auf die Ausgabegeschwindigkeit. Super VL soll auf vier Blackwell-B200-GPUs bei einem Eingabekontext von 100.000 Tokens bis zu 625 Tokens pro Sekunde erzeugen. Das sagt noch nichts über die gesamte Bearbeitungszeit eines Agenten aus, der Dateien auswertet, externe Dienste abfragt und Ergebnisse kontrolliert.

Für lokale Einsätze stellt Nvidia außerdem zwei Bolt-Modelle bereit. Bolt 74B-A9B ist für Programmierung, Recherche und mehrstufige Aufgaben gedacht und soll mit 24 GB Speicher auskommen. Bolt E4B soll ab 23. Oktober für kleinere Assistenten auf Geräten verfügbar sein.

Die Gewichte von Super VL stehen über Hugging Face bereit. Nvidia nennt für den produktiven Einsatz seiner AI-Enterprise-Software 4.500 US-Dollar pro GPU und Jahr. Kosten für Hardware, Betrieb und Hosting kommen hinzu.