IBM hat eine neue Version seiner Open-Source-Sprachmodelle, Granite 3.1, veröffentlicht. Wie Sean Michael Kerner für VentureBeat berichtet, bieten die neuen Modelle deutliche Verbesserungen in Leistung und Funktionalität. Das Granite 8B Instruct Modell übertrifft laut IBM vergleichbare Konkurrenzprodukte wie Meta Llama 3.1 und Google Gemma 2 in akademischen Benchmarks.
Die Kontextlänge wurde von 4.000 auf 128.000 Token erweitert. Dies ermöglicht die Verarbeitung längerer Dokumente und Gespräche. Die Modelle verfügen über einen integrierten Schutz gegen Halluzinationen durch die Granite Guardian 3.1 Varianten.
David Cox, IBM-Vizepräsident für KI-Modelle, betont, dass die Verbesserungen auf optimierten Trainingsprozessen und besserer Datenqualität basieren. Die neue Version enthält Embedding-Modelle mit Verarbeitungsgeschwindigkeiten von 0,16 Sekunden pro Anfrage. IBM plant für Anfang 2025 die Einführung multimodaler Funktionen mit Granite 3.2. Die Modelle sind als Open Source und über IBMs Watsonx-Enterprise-KI-Service verfügbar.
