KI-Stimmsynthese von ElevenLabs in russischer Desinformationskampagne eingesetzt

Ein aktueller Bericht des Sicherheitsunternehmens Recorded Future zeigt, dass die KI-Stimmsynthese-Technologie von ElevenLabs höchstwahrscheinlich in einer russischen Einflussoperation verwendet wurde. Wie Charles Rollet für TechCrunch berichtet, zielte die als „Operation Undercut“ bekannte Kampagne darauf ab, die europäische Unterstützung für die Ukraine zu untergraben. Die Kampagne nutzte KI-generierte Stimmen in verschiedenen europäischen Sprachen, darunter Deutsch, Französisch, Englisch und Polnisch. Die Forscher von Recorded Future bestätigten den Einsatz der ElevenLabs-Technologie durch Tests mit dem firmeneigenen KI-Spracherkennungssystem. Hinter der Operation stand die von der US-Regierung sanktionierte Social Design Agency aus Russland. Obwohl die Auswirkungen der Kampagne als gering eingestuft wurden, reiht sich dieser Vorfall in eine Serie von Kontroversen um ElevenLabs ein, einschließlich des mutmaßlichen Einsatzes ihrer Technologie bei gefälschten Roboter-Anrufen während der US-Vorwahlen 2024.

Mehr zum Thema:

Bleib up-to-date: