IBM hat vier neue KI-Modelle vorgestellt, die klein genug sind, um auf einem normalen Laptop oder sogar in einem Webbrowser zu laufen. Carl Franzen berichtet für VentureBeat, dass diese „Granite 4.0 Nano“ genannten Modelle einen Wandel in der KI-Entwicklung anzeigen. Effizienz wird hier über schiere Größe gestellt. Die Modelle sind Open Source und unter der Apache-2.0-Lizenz verfügbar. Das erlaubt die kostenlose Nutzung für Forschung, Entwicklung und kommerzielle Zwecke.
Die neuen Modelle umfassen 350 Millionen bis 1,5 Milliarden Parameter. Das ist nur ein Bruchteil der Größe von Modellen anderer Anbieter wie OpenAI oder Google. Trotz ihrer kompakten Bauweise sind sie laut IBM sehr leistungsfähig. Von IBM veröffentlichte Testergebnisse zeigen, dass die Granite-Nano-Modelle bei bestimmten Aufgaben die Konkurrenz in ihrer Größenklasse übertreffen.
Der Fokus auf kleine, lokale Modelle bietet erhebliche Vorteile. Entwickler können damit Anwendungen für Geräte mit begrenzter Rechenleistung erstellen. Zudem wird der Datenschutz für Nutzer verbessert, da Daten direkt auf dem Gerät verarbeitet werden und nicht in die Cloud gesendet werden müssen. IBM möchte mit den offenen und zugänglichen Modellen eine Alternative zu den großen, geschlossenen KI-Systemen bieten, die derzeit den Markt dominieren. Das Unternehmen tauscht sich aktiv mit der Open-Source-Community aus und hat bereits leistungsfähigere Modelle angekündigt.
