KI-Experte warnt vor Manipulation durch Konversations-Agenten

Künstliche Intelligenz könnte schon bald Menschen gezielt durch optimierte Gesprächsführung beeinflussen. Dies prognostiziert der Informatiker Louis Rosenberg in einem Artikel bei VentureBeat Die technischen Voraussetzungen dafür seien durch die Entwicklung von Deepseek-R1 geschaffen, da die Verarbeitungskosten deutlich gesunken sind. Rosenberg zufolge werden KI-Agenten in der Lage sein, Persönlichkeitsmerkmale zu analysieren und ihre Kommunikation in Echtzeit anzupassen. Die Systeme könnten dabei persönliche Daten, maßgeschneiderte Avatare und optimierte Gesprächsstrategien einsetzen, um Produkte zu verkaufen oder Fehlinformationen zu verbreiten. Als Gegenmaßnahmen schlägt der Experte verschiedene regulatorische Einschränkungen vor. Dazu gehören die Pflicht zur Offenlegung der KI-Ziele sowie Beschränkungen bei der Nutzung persönlicher Daten. Besonders kritisch sieht Rosenberg die Möglichkeit von Feedback-Schleifen, durch die KI-Systeme ihre Überzeugungsstrategien kontinuierlich verbessern können. Ohne entsprechende Schutzmaßnahmen könnten diese KI-Agenten Menschen deutlich effektiver beeinflussen als menschliche Verkäufer.