Microsoft und Ghost setzen auf neue Computer für lokale KI

Microsoft und das Start-up Ghost bringen neue, hochpreisige Computer auf den Markt, die KI-Modelle direkt auf dem Gerät ausführen sollen. Damit wächst das Angebot an Hardware, die weniger auf Rechenleistung aus der Cloud angewiesen ist.

Microsoft nimmt Vorbestellungen für die Surface RTX Spark Dev Box entgegen. Der kompakte Entwicklerrechner kostet 5.999 Dollar und soll im November ausgeliefert werden. Er basiert auf Nvidias Arm-basierter RTX-Spark-Plattform und verfügt über 128 GB einheitlichen Speicher. Microsoft zufolge kann das System lokale Modelle mit mehr als 120 Milliarden Parametern ausführen.

Die Dev Box richtet sich vor allem an Entwicklerinnen und Entwickler. Sie sollen damit Modelle testen, KI-Agenten entwickeln oder Programmierassistenten lokal nutzen können. Das Gerät kommt mit einer für Entwickler eingerichteten Version von Windows 11 Pro. Vorinstalliert sind unter anderem Visual Studio Code, Git, GitHub Copilot, WSL, Python und Node. Das Gehäuse aus 3D-gedrucktem Aluminium dient zugleich zur Kühlung.

Zwei Konzepte für lokale KI

Ghost verfolgt mit seinem Core einen stärker persönlichen Ansatz. Der 3.499 Dollar teure Rechner soll KI-Agenten dauerhaft im Hintergrund betreiben. Er kombiniert nach Angaben des Unternehmens eine eigene Software-Schicht mit Browser, Dateisystem und lokal gespeicherten persönlichen Informationen. Verbaut ist eine Nvidia RTX Pro 4000 SFF Blackwell GPU. Drei Modelle von Qwen und Gemma sind bereits installiert.

Core hat keinen Bildschirm und wird über eine App oder ein Smartphone bedient. Ghost zufolge können die Agenten Informationen auswerten und freigegebene Aufgaben übernehmen. Das Unternehmen erklärt, persönliche Daten würden lokal verschlüsselt. Eine Firewall soll Netzwerkzugriffe der Agenten überwachen. Die erste Auslieferung ist für Ende Oktober geplant.

Beide Produkte richten sich an unterschiedliche Zielgruppen. Microsoft setzt auf professionelle KI-Entwicklung. Ghost wirbt mit einem dauerhaften persönlichen Assistenten. Gemeinsam zeigen sie, dass spezialisierte Rechner für größere lokale KI-Modelle an Bedeutung gewinnen.

Quellen

Bleib auf dem Laufenden

KI für Contentprofis: die neuesten Tools, Tipps und Trends. Alle 14 Tage in deine Inbox:

 

Weitere Infos …

Über den Autor

Mehr zum Thema:

×