Unternehmen können erhebliche Kosteneinsparungen erzielen, wenn sie ihre eigene Conversational AI auf Basis des Open-Source-Modells Llama 3 aufbauen. Das geht aus einer Analyse von Sam Oliver, Gründer von OpenFi, hervor, die auf VentureBeat veröffentlicht wurde. Laut Oliver kostet eine durchschnittliche Konversation mit Llama 3 etwa 0,08 US-Dollar, während dieselbe Konversation mit GPT-4 von OpenAI rund 0,16 US-Dollar kostet.
Allerdings warnt Oliver, dass die Einrichtung von Llama 3 aufwendiger ist und zusätzliche Kosten für Server und Entwicklung verursacht. GPT-4 lässt sich dagegen schnell per API einbinden. Oliver empfiehlt Unternehmen, sorgfältig abzuwägen, welches Modell für ihre spezifischen Bedürfnisse am besten geeignet ist. Dabei sollten Faktoren wie das erwartete Nutzungsvolumen, die gewünschte Kontrolle über Daten und die verfügbaren Ressourcen berücksichtigt werden.
