Character.AI hat AvatarFX vorgestellt, ein neues Videogenerierungsmodell, das sowohl KI-Charaktere als auch hochgeladene Bilder animieren kann. Laut Unternehmen kann die Technologie fotorealistische Videos mit Audio erzeugen, die Konsistenz bei Gesichts-, Hand- und Körperbewegungen auch bei längeren Inhalten bewahren.
Das System baut auf einer Diffusionsmodell-Architektur mit einem parametereffizienten Trainingsprozess auf, um realistische Lippen-, Kopf- und Körperbewegungen basierend auf Audio zu erzeugen. Character.AI behauptet, AvatarFX könne verschiedene Subjekte über Menschen hinaus animieren, einschließlich 2D-Zeichentrickfiguren, 3D-Cartoons und sogar Haustiere.
Angesichts des Missbrauchspotenzials hat Character.AI mehrere Sicherheitsfunktionen implementiert:
- Inhaltsfilterung für Dialoge, die gegen Richtlinien verstoßen
- Blockierung der Videogenerierung mit Fotos von Minderjährigen, Politikern und öffentlichen Personen
- KI-Modifikation von Menschenfotos, um Personen unkenntlich zu machen
- Wasserzeichen zur Kennzeichnung generierter Inhalte
- Nutzungsbedingungen, die Identitätsmissbrauch, Mobbing und Deepfakes verbieten
Trotz dieser Schutzmaßnahmen bleiben Bedenken. TechCrunch weist darauf hin, dass Character.AI bereits mit Klagen von Eltern konfrontiert wurde, die behaupten, Chatbots hätten Kinder zu selbstschädigendem Verhalten ermutigt.
Das Unternehmen plant, AvatarFX schrittweise auf seiner Plattform einzuführen, wobei CAI+-Abonnenten frühen Zugang erhalten. Die Funktion befindet sich derzeit in geschlossener Betatestphase.