Forscher haben eine neue Methode namens „Linear-complexity Multiplication“ (ℒ-Mul) entwickelt, um Berechnungen in künstlicher Intelligenz effizienter zu gestalten. Diese Methode ersetzt aufwendige Multiplikationen durch einfachere Additionen, wie Jason Hickey und sein Team vom Google AI Research Center in Accra schreiben.
Die Wissenschaftler konnten zeigen, dass ℒ-Mul bei Sprachmodellen wie Llama und Mistral die gleiche Genauigkeit wie herkömmliche Methoden erreicht, dabei aber deutlich weniger Rechenleistung benötigt. In Tests mit verschiedenen KI-Aufgaben wie Textverständnis und mathematischem Schlussfolgern schnitt ℒ-Mul genauso gut oder sogar besser ab als bisherige Verfahren. Die Forscher sehen darin großes Potenzial, um KI-Systeme energieeffizienter zu machen und ihre Nutzung auch auf Geräten mit begrenzter Rechenleistung zu ermöglichen.
Ihre Ergebnisse finden sich hier bei arxiv.org.
Quellen: Hacker News, Tom’s Hardware