Perplexity startet mit Nvidia einen lokalen KI Agenten namens Portable Computer

Perplexity bringt mit Portable Computer eine Variante seiner KI Agentenplattform auf den Markt, die auf der eigenen Nvidia Hardware läuft. Michael Nuñez berichtet für VentureBeat, dass Perplexity das Produkt gemeinsam mit Nvidia entwickelt. Zum Start unterstützt es Linux Rechner mit geeigneten RTX Grafikkarten sowie Nvidias Desktop System DGX Spark.

Die Software soll mehrstufige Aufgaben übernehmen. Dazu gehören das Prüfen von Dokumenten, die Auswertung von Tabellen, das Erstellen von Berichten und die Nutzung angebundener Geschäftsanwendungen. Nach Angaben von Perplexity bleiben Modell, Dateien, Werkzeuge und Arbeitsablauf auf dem Gerät. Für lokal erledigte Aufgaben fallen damit keine verbrauchsabhängigen Tokenkosten an.

Portable Computer beginnt jede Aufgabe lokal. Reicht das lokale Modell nicht aus, können Nutzende einzelne Schritte an ein leistungsfähigeres Cloud Modell übergeben. Perplexity erklärt, dass das System den betreffenden Kontext zuvor auf personenbezogene Daten prüft und anzeigt, welche Inhalte das Gerät verlassen. Das Cloud Modell gibt nur Textantworten zurück. Es erhält keinen direkten Zugriff auf lokale Dateien oder Werkzeuge.

Hohe Anforderungen an die Hardware

Zur Auswahl stehen zunächst Qwen 3.8 27B und PPLX 27B, ein von Perplexity weiter trainiertes Modell. Voraussetzung ist eine Nvidia RTX GPU mit mindestens 24 GB Grafikspeicher. Damit kommen vor allem leistungsstärkere Geräte wie eine GeForce RTX 3090 oder neuere Modelle infrage. Eine Windows Version soll im September folgen.

Perplexity setzt bei kleineren lokalen Modellen auf eine schlankere Steuerung als bei Cloud Modellen. Werkzeuge werden nur bei Bedarf geladen, und eine Sandbox des Betriebssystems soll den Zugriff auf Funktionen absichern. Das Unternehmen meldet bessere Werte als zwei Open Source Agentenlösungen in eigenen Tests. Unabhängige Prüfungen dieser Ergebnisse liegen jedoch nicht vor.

Das Angebot richtet sich besonders an Teams mit sensiblen Daten und an Unternehmen, die KI Kosten besser kontrollieren wollen. Bei komplexen Denkaufgaben bleiben lokale Modelle laut Perplexity aber hinter führenden Cloud Modellen zurück. Auch die Hardwarehürde ist weiterhin hoch.