KI-Anwendungen laufen heute vor allem in der „Cloud“, also auf mächtigen, spezialisierten Computern in Rechenzentren. Das aber wird nach Meinung von Fachleuten nicht immer so bleiben. Ergänzend dazu werde es mehr und mehr kleine Modelle geben, die direkt auf den Geräten der Anwender:innen funktionieren – vom PC bis zum Smartphone.
Das hört auf den Namen Edge AI, in Anlehnung an den Begriff des Edge Computing. Es soll signalisieren, dass die eigentliche Arbeit am „Rand“ des Netzwerks stattfindet und nicht zentral.
Möglich wird dies zum einen durch Fortschritte in der Chip-Technologie und zum anderen durch neue Methoden, um leistungsfähige KI-Modelle zu entwickeln, die deutlich weniger Ressourcen benötigen. Ein Ansatz ist es etwa, ein Modell für eine klar definierte Aufgabe zu trainieren anstatt als einen Alleskönner wie ChatGPT.
Ein Vorteil ist, dass solche lokal laufenden KI-Modelle keinen Internetzugang benötigen und damit auch bei schlechtem Empfang auf dem Handy wie gewohnt funktionieren. Außerdem verbleiben die Daten der Nutzenden auf ihren Geräten und werden nicht zur Verarbeitung in die Cloud geschickt.