Künstliche Intelligenz ist im Arbeitsalltag angekommen. Nun rückt die Kostenfrage in den Vordergrund. Katherine Bindley berichtet für das Wall Street Journal, dass Unternehmen den KI-Verbrauch ihrer Mitarbeiter zunehmend messen. Die Einheit dafür heißt Token. Sie misst den Rechenaufwand hinter jeder KI-Anfrage.
Bei textbasierten Aufgaben entsprechen 1.000 Token etwa 750 Wörtern. Bei Code, Video, Audio oder komplexen automatisierten Aufgaben steigen die Kosten deutlich.
Das Unternehmen Zapier, ein Anbieter von KI-Automatisierung, setzt jetzt Dashboards ein, die den Token-Verbrauch pro Mitarbeiter anzeigen. Brandon Sammut, Chief AI Transformation Officer bei Zapier, erklärt: Wer deutlich mehr Token verbraucht als Kollegen, fällt auf. Das kann auf außergewöhnliche Produktivität hinweisen oder auf ineffizienten Einsatz.
Beim Cloud-Startup Vercel entwickelte ein Ingenieur mithilfe von KI-Agenten innerhalb eines Tages eine neue Infrastruktur-Komponente. Für Menschen hätte die Arbeit Wochen gedauert. Die Token-Kosten lagen bei rund 10.000 Dollar.
Beim Startup Kumo AI lassen Ingenieure KI-Agenten selbstständig arbeiten, auch wenn sie selbst nicht am Rechner sind. Mitgründerin Hema Raghavan betont: Hohe Token-Kosten in einem Bereich können Einsparungen in einem anderen ermöglichen, etwa durch effizienteren Code.
Mark Hull, Gründer von Exceeds AI, erwartet, dass Unternehmen bald klare Regeln für den Token-Einsatz einführen werden. Er warnt vor unkontrolliertem Zugang. Nachdem er seinem gesamten 15-köpfigen Team ein KI-Coding-Tool freigegeben hatte, stiegen die Kosten innerhalb von 48 Stunden stark an.
