Die Firma Together AI hat eine neue Plattform für KI-Anwendungen in privaten Cloud-Umgebungen vorgestellt. Das System verspricht schnellere Inferenz und niedrigere Kosten für Unternehmen. Wie CEO Vipul Prakash gegenüber VentureBeat erklärte, kann die Plattform die Leistung von KI-Inferenz um das Zwei- bis Dreifache steigern und den Hardwarebedarf halbieren. Ein Schlüsselmerkmal ist demnach die flexible Orchestrierung verschiedener KI-Modelle. Together AI nutzt dabei einen „Mixture of Agents“-Ansatz, bei dem schwächere Modelle Vorschläge machen, die dann von einem Aggregator-Modell kombiniert werden. Die Plattform soll Bedenken hinsichtlich Datenschutz und Sicherheit beim Einsatz von KI in Unternehmen ausräumen.