Perplexity bringt hybride KI-Verarbeitung für vertrauliche Daten

Perplexity führt mit Hybrid Compute eine neue Funktion für seine Mac-App ein. Sie teilt Aufgaben zwischen leistungsfähigen Cloud-Modellen und kleineren KI-Modellen auf dem eigenen Mac auf. Vertrauliche Dateien und persönliche Daten sollen dadurch auf dem Gerät bleiben, während die Cloud etwa Webrecherchen und komplexe Planung übernimmt.

Das Angebot richtet sich an Pro- und Max-Abonnenten sowie an Unternehmenskunden. Voraussetzung ist ein Apple-Silicon-Mac mit macOS 15 oder neuer. Für die leistungsfähigeren lokalen Modelle empfiehlt Perplexity mindestens 32 GB gemeinsamen Arbeitsspeicher.

Im Zentrum steht laut Perplexity ein lokal ausgeführtes System namens Privacy Gate. Dieses prüft Inhalte, bevor sie an die Cloud übertragen werden. Es soll unter anderem Namen, Adressen, Kontonummern und Zugangsdaten erkennen. Nutzer können ansehen, welche Dateien oder Textteile als sensibel markiert wurden, und selbst entscheiden, ob diese lokal verarbeitet oder an einen Cloud-Dienst weitergegeben werden.

Das Cloud-Modell übernimmt die Rolle eines Koordinators. Es zerlegt eine Aufgabe in einzelne Arbeitsschritte und weist sie passenden Systemen zu. Die Analyse privater Unterlagen oder Aktionen auf dem Gerät laufen lokal. Öffentliche Recherche und aufwendiges Reasoning können in der Cloud stattfinden.

Als lokale Modelle stehen Googles Gemma E4B sowie Varianten von Alibabas Qwen 3.6 35B bereit. Qwen wurde von Perplexity nachtrainiert. Für Tokens, die ein lokales Modell auf dem eigenen Rechner erzeugt, berechnet das Unternehmen nach eigenen Angaben keine Credits. Für die Koordination durch die Cloud fallen weiterhin Kosten an.

Jon Staff, bei Perplexity für die Mac-Produkte zuständig, räumt ein, dass reine Cloud-Lösungen mit Frontier-Modellen meist bessere Ergebnisse liefern. Hybrid Compute soll daher vor allem Nutzern helfen, die Datenschutz und Kosten höher gewichten. Ein Risiko bleibt: Erkennt das System sensible Inhalte nicht, könnten diese dennoch für die Cloud freigegeben werden.

Quellen

• Perplexity launches Hybrid Compute, which splits workloads between frontier cloud models like Opus 5 and local LLMs, for all users of its Mac app – Engadget
• Your files stay put: Perplexity’s hybrid AI keeps confidential data off the cloud – VentureBeat