Apples Mac Studio mit M5 Ultra zielt auf große lokale KI-Modelle

Apple stellt einen neuen Mac Studio mit dem Chip M5 Ultra vor und richtet das Gerät klar auf lokal arbeitende KI aus. Die größte Ausführung bietet bis zu 512GB gemeinsamen Arbeitsspeicher. Das ist vor allem für Menschen relevant, die große Sprachmodelle, Bildgeneratoren oder eigene KI-Anwendungen direkt auf dem Rechner nutzen wollen.

Der M5 Ultra bietet je nach Ausstattung bis zu 36 CPU-Kerne und 80 GPU-Kerne. In jedem GPU-Kern sitzt ein Neural Accelerator für KI-Berechnungen. Die Speicherbandbreite liegt laut Apple bei bis zu 1,2TB/s. Davon können lokale Modelle profitieren, weil große Datenmengen schneller zwischen Speicher und Recheneinheiten bewegt werden.

Apple verbindet im M5 Ultra vier Chipbausteine über eine neue UltraFusion-Architektur. Diese sollen sich laut Hersteller wie ein gemeinsamer Prozessor mit einem großen Speicherbereich verhalten. In der Mitteilung im Apple Newsroom nennt das Unternehmen Modelle mit mehreren hundert Milliarden Parametern als möglichen Einsatzzweck. Die praktische Leistung hängt jedoch auch von Modellgröße, Komprimierung und verwendeter Software ab.

Worauf es bei lokaler KI ankommt

• Viel Arbeitsspeicher: Mit bis zu 512GB Unified Memory kann der Mac Studio Modelle laden, die den Speicher üblicher Desktop-PCs überfordern.
• Schnellere Antworten: Apple verspricht in LM Studio eine bis zu viermal schnellere Verarbeitung von Eingaben gegenüber dem M3 Ultra.
• Mehrere Systeme: Über Thunderbolt 5 und RDMA lassen sich mehrere Mac Studio zusammenschalten. Vier Geräte sollen laut Apple bis zu dreimal so viel Leistung bei der Modellantwort liefern wie ein einzelnes System.

Für den Mac mini kündigte Apple außerdem den M6 an. Der erste 2nm-Chip des Unternehmens hat eine 12-Kern-CPU, eine 12-Kern-GPU und maximal 32GB Unified Memory. Damit eignet sich der Mac mini eher für kleinere lokale Modelle, alltägliche KI-Funktionen und leichtere Entwicklungsaufgaben als für die größten Modelle.

Der Mac Studio mit M5 Max startet in den USA bei 2.499 Dollar, die Version mit M5 Ultra bei 5.499 Dollar. Die Variante mit 512GB Unified Memory soll Apple zufolge erst im Oktober folgen.

Quellen

• Apple Introduces New Mac Studio with M5 Max and M5 Ultra – Apple
• Apple introduces M6 and M5 Ultra for a big leap in performance and AI compute – Apple Newsroom
• Apple says M5 Ultra uses a quad-die 3nm architecture, “a first for Apple silicon” – Engadget