Eine App macht Werbung mit sexuellen Deepfakes von Emma Watson

Von

9. März 2023

As the role of artificial intelligence appears to continue growing in our daily lives, it’s taking people’s likeness along with it. This week, hundreds of deepfaked videos featuring faces that looked exactly like Emma Watson and Scarlett Johansson ran across Facebook and Instagram as part of an apparent advertising campaign for an AI deepfake app called FaceMega. (via)

Deepfakes und andere Formen von AI-Content sind aktuell ein stark diskutiertes Thema im Internet. Viele Menschen sorgen sich darüber, wie leicht man diese Technologie dafür benutzen kann, um Missinformationen zu verbreiten oder andere Menschen zu täuschen. Besonders Deepfakes von Prominenten oder Politikern könnten tausende von Menschen auf eine falsche Fährte locken und problematische Informationen in der Öffentlichkeit verbreiten.

Ein gutes Beispiel für solche Möglichkeiten wurde uns in dieser Woche durch eine neue Werbekampagne auf Facebook und Instagram geliefert. Diese Werbung soll Nutzern wohl eine neue AI Deepfake App mit dem Namen „FaceMega„ schmackhaft machen. Diese App erlaubt es den Nutzern für gerade einmal 8 Euro im Monat, die Gesichter in Videos mit den Gesichtern von hochgeladenen Bildern auszutauschen. Die App selbst übernimmt dabei jegliche Arbeit und die Nutzer müssen nur ein paar Knöpfe drücken.

Das Problem an der Werbekampagne waren die als Beispiele für die Arbeit der App gezeigten Videos. Diese Aufnahmen zeigten nämlich Frauen, die sich in recht provokativen Situationen mit einem sexuellen Kontext befanden. Die Gesichter der Damen wurden durch die App dann hauptsächlich mit den Gesichtern von Emma Watson und Scarlett Johansson ausgetauscht. Insgesamt konnten 230 unterschiedliche Werbevideos dieser Art entdeckt werden. 127 Aufnahmen zeigten Watson und Johansson war in 74 Aufnahmen zu sehen.

Die Werbekampagne ging wohl von der Firma Ufoto Limited aus, die der chinesischen Firma Wondershare unterstellt ist. Die Erlaubnis für die Verwendung der Gesichter der zwei Schauspielerinnen wurde selbstverständlich nicht eingeholt. Das Ganze ist also ein perfektes Beispiel dafür, wie man Technologie dieser Art dafür nutzen kann, um andere Leute zu täuschen oder gefälschte Videos zu verbreiten.

Interessanterweise richteten sich die von der App ausgehenden Nutzungsbestimmungen genau gegen diese Optionen. Laut diesem Dokument dürfen Nutzer die App nämlich nicht dafür verwenden, um andere Menschen zu täuschen oder andere Menschen/Organisationen nachzuahmen. Da genau diese Tätigkeiten in der Werbekampagne hervorgehoben wurden, darf man sich sicherlich fragen, was der tatsächliche Verwendungszweck solch einer App sein soll.

Kurz nach der Verbreitung der Berichte über diese Werbekampagne wurde die App aus dem Apple App Store entfernt. Einige Zeit später verschwand das Angebot auch aus dem Google Play Store. Trotzdem dürfte es noch immer möglich sein, diese App irgendwo im Netz zu finden und zu verwenden. Solche Dinge lassen sich schließlich nie komplett entfernen. Ansonsten ist aktuell nicht bekannt, warum Meta es überhaupt zugelassen hat, dass die Werbung dieser Art auf Facebook und Instagram ausgestrahlt wurde. Die Firma verbindet eigentlich Content dieser Art und man hätte erwarten können, dass es dort strengere Kontrollen gibt. Einer Stellungnahme von Meta zufolge hat die Firma mittlerweile aber dafür gesorgt, dass die Firma keine Werbung mehr für die App machen kann. Besser spät als nie.

Die Journalistin Lauren Barton hat das folgende Werbevideo für die App aufgenommen und auf Twitter veröffentlicht: