OpenAI macht Decisions API mit Sprach- und Bildverarbeitung öffentlich

OpenAI stellt seine Decisions API nun allen Kunden bereit. Die Schnittstelle soll einfache, wiederkehrende Entscheidungen schneller und günstiger erledigen als herkömmliche große Sprachmodelle.

Tim Fernholz berichtet für TechCrunch, dass OpenAI damit in den Markt der sogenannten Decision Models (Entscheidungsmodelle) einsteigt. Diese Modelle erhalten eine begrenzte Auswahl an Optionen, treffen eine Zuordnung oder Auswahl und geben zugleich eine Einschätzung ihrer Sicherheit aus. Sie eignen sich etwa dafür, Anfragen weiterzuleiten, Inhalte zu kategorisieren oder Bildmaterial einzuordnen.

Für die Decisions API hat OpenAI nach eigenen Angaben kein vollständig neues Spezialmodell trainiert. Das Unternehmen nutzt eine umkonfigurierte Version von ChatGPT Luna. Nikunj Handa, bei OpenAI für API-Produkte verantwortlich, nennt vor allem die kürzere Reaktionszeit als Vorteil. Sie könne von ein bis drei Sekunden auf etwa 100 bis 180 Millisekunden sinken.

Die allgemein verfügbare Version verarbeitet nun auch Sprache und Bilder. Zudem hat OpenAI Rechenkapazitäten regional ausgerichtet, um Verzögerungen für Nutzer in verschiedenen Teilen der Welt zu senken. Zu den frühen Anwendern zählen laut dem Bericht Box, Datadog, Ramp und der Sprachlern-Anbieter Speak.

Speak CTO Andrew Hsu sagt, sein Unternehmen habe die Zeit zwischen einzelnen Aktionen im KI-Sprachtrainer von 1,4 Sekunden auf 0,13 Sekunden reduziert. OpenAI setzt die Schnittstelle außerdem für seinen Sprachassistenten Dots ein.

Ein Markt mit mehreren Anbietern

Der Wettbewerb wird vor allem von TypeSafe und dessen Jev-Modellen geprägt. Auch Liquid mit D1 Ultra und Base Lab mit Elephant-1 bieten entsprechende Modelle an. Öffentliche Vergleichstests liefern kein einheitliches Bild, da Geschwindigkeit, Kosten, Genauigkeit und die Verlässlichkeit der Sicherheitsangabe je nach Aufgabe unterschiedlich wichtig sind.

Für Teams ist die Abgrenzung entscheidend: Entscheidungsmodelle eignen sich für schnelle, klar eingegrenzte Abläufe. Große Sprachmodelle bleiben besser für Texte, komplexe Analysen und offene Dialoge geeignet. OpenAI sieht langfristig Anwendungen, bei denen ein Modell sogar jedes einzelne Videobild bewertet.