SambaNova stellt Geschwindigkeitsrekord auf

SambaNova hat einen neuen Geschwindigkeitsrekord für das Llama 3 Sprachmodell aufgestellt und erreicht 1.000 Token pro Sekunde. Das Unternehmen nutzt dafür seine eigenen Chips und Software, die speziell für die Bedürfnisse von Unternehmen entwickelt wurden. Die hohe Geschwindigkeit ermöglicht schnellere Antwortzeiten, bessere Hardware-Auslastung und geringere Kosten.