OpenAI implementiert neue Einschränkungen für seinen KI-Video-Generator Sora. Das Unternehmen reagiert damit auf öffentliche Kritik wegen nicht autorisierter Deepfakes von Personen des öffentlichen Lebens. Auslöser waren unter anderem die Hinterbliebenen von Martin Luther King Jr. und der Schauspieler Bryan Cranston.
Auf Anfrage des Nachlasses von Dr. King pausierte OpenAI die Erstellung von Videos, die dem verstorbenen Bürgerrechtler ähneln. Die Entscheidung folgte auf die Generierung „respektloser Darstellungen“, wie es von OpenAI und dem Nachlass hieß. Ähnlich äußerte sich Schauspieler Bryan Cranston besorgt, nachdem nicht autorisierte Clips mit seiner Stimme und seinem Abbild in der App erschienen waren. Die Töchter von Dr. King und dem verstorbenen Komiker Robin Williams baten die Öffentlichkeit, die Erstellung von KI-Videos ihrer Väter zu unterlassen.
Als Reaktion arbeitet OpenAI nun mit Cranston, der Schauspielergewerkschaft SAG-AFTRA und Talentagenturen zusammen, um die Schutzmaßnahmen zu verstärken. „OpenAI ist der Ansicht, dass Personen des öffentlichen Lebens und ihre Familien letztendlich die Kontrolle darüber haben sollten, wie ihr Abbild verwendet wird“, erklärte das Unternehmen. Es wurde ein Prozess eingerichtet, über den Nachlässe eine solche Nutzung untersagen können.
Diese Maßnahmen sind Teil einer breiteren Weiterentwicklung der Richtlinien seit dem Start von Sora. OpenAI aktualisierte zudem seine Regeln, um Urhebern mehr Kontrolle zu geben, und bekräftigte seine Unterstützung für den NO FAKES Act. Dieses US-Gesetzesvorhaben soll vor nicht genehmigten KI-Nachbildungen von Personen schützen.
Quellen: TechCrunch, CNBC
