Alignment (Ausrichtung) meint im Kontext von Künstlicher Intelligenz, sicherzustellen, dass die KI-Systeme so entwickelt werden, dass ihre Ziele und Aktionen mit den Werten und Interessen der Menschheit übereinstimmen.
Eine nicht korrekt ausgerichtete KI könnte Ziele verfolgen, die zwar logisch aus ihrer Programmierung folgen, aber negative Auswirkungen auf die Menschheit haben.
Dies wird vor allem wichtig, wenn KI-Systeme selbstständig tätig werden, wie es für „KI-Agenten“ angedacht ist. Trotzdem ist Alignment bereits heute ein wichtiges Thema, denn die Grundlagen müssen von Anfang an stimmen. Auch Probleme wie etwa Vorurteile und andere Verzerrungen im Datensatz können bereits jetzt negative Auswirkungen haben.