{"id":98822,"date":"2023-03-08T16:26:54","date_gmt":"2023-03-08T15:26:54","guid":{"rendered":"https:\/\/stevinho.justnetwork.eu\/?p=98822"},"modified":"2023-03-08T16:26:54","modified_gmt":"2023-03-08T15:26:54","slug":"twitch-hat-nun-auch-endlich-deepfake-pornos-gebannt","status":"publish","type":"post","link":"https:\/\/stevinho.justnetwork.eu\/2023\/03\/08\/twitch-hat-nun-auch-endlich-deepfake-pornos-gebannt\/","title":{"rendered":"Twitch hat nun auch endlich Deepfake Pornos gebannt"},"content":{"rendered":"
\n

The livestreaming service says it was already technically banned under other policies, but Twitch is making things explicit after a January incident. (via<\/a>)<\/p>\n<\/blockquote>\n

In 2018 haben die meisten Plattformen im Netz wie beispielsweise Reddit, Discord oder auch Twitter die Verbreitung von pornografischen Videos verboten, deren Darsteller durch Deepfake-Technologie ver\u00e4ndert wurden. Auf diese Weise wollte man damals schon Racheakte verhindern und die Verbreitung von falschen Videos eind\u00e4mmen. Eine der wenigen Plattformen, deren Richtlinien bisher kein direktes Verbot f\u00fcr Content dieser Art beinhalteten, war der Streaming-Anbieter Twitch.<\/p>\n

Dieser Umstand hat sich in dieser Woche aber wohl endlich ver\u00e4ndert. Twitch verk\u00fcndete in einem neuen Blogeintrag<\/a> auf ihrer Seite, dass sich die Regeln bez\u00fcglich Deepfake Pornos jetzt ganz offiziell ver\u00e4ndert haben. Laut dieser Ank\u00fcndigung ist Content dieser Art jetzt ganz offiziell auf Twitch verboten. Die Ausstrahlung dieser Inhalte war bisher zwar schon durch andere Regeln abdeckt, aber das spezifische Verbot geht noch ein wenig weiter.<\/p>\n

Twitch verbietet seinen Streamern jetzt im Grunde jegliche Interaktion mit Content dieser Art. Wer Deepfake Pornos erstellt, bewirbt oder auch nur mit anderen Menschen teilt, der darf mit einem permanenten Bann auf der Plattform rechnen. Das Ganze betrifft wohl auch T\u00e4tigkeiten au\u00dferhalb von Twitch und nicht nur die auf der Plattform durchgef\u00fchrten Streams. Wer sich mit Inhalten dieser Art besch\u00e4ftigt, der k\u00f6nnte daf\u00fcr bei Twitch gemeldet werden.<\/p>\n

Ansonsten qualifiziert man sich wohl bereits f\u00fcr eine Strafe auf Twitch, wenn man nur ganz kurz einen Blick auf Bilder oder Aufnahmen dieser Art gew\u00e4hrt. Streams mit diesen Inhalten werden entfernt und Twitch wird Strafen an die entsprechenden Streamer verteilen. Situationen mit ganz kurzen Aufnahmen oder Bildern k\u00f6nnte es beispielsweise dann geben, wenn Streamer \u00fcber das Thema selbst reden oder sich \u00fcber andere Personen aufregen. Wer als Teil eines Rants<\/span> einen erwischten Streamer zeigt, der darf dann wohl ebenfalls mit einer Sperre rechnen.<\/p>\n

Ansonsten distanziert Twitch sich offiziell von dem Buzzwort „Deepfake Pornos“<\/span>. Die Plattform bezeichnet diesen Content lieber als \u201c<\/span>synthetic<\/span> non-consensual<\/span> exploitative<\/span> images<\/span>\u201d<\/span> oder kurz NCEI<\/span>. Diese Unterscheidung ist der Plattform wichtig, weil Pornos normalerweise im Einverst\u00e4ndnis aller Beteiligten gedreht werden. Der problematische Content mit gef\u00e4lschten Szenen basiert aber nicht auf dem Einverst\u00e4ndnis von Nutzern, weshalb Twitch das Ganze auch schlimmer einstuft.<\/p>\n

Der Grund f\u00fcr dieses Verbot und die drastischen Strafen ist wohl ein Vorfall aus dem Januar 2023. Damals wurde der Streamer Atrioc<\/span> <\/a>dabei erwischt, wie er nach Deepfake Pornos von einer anderen Streamerin gesucht hat. Dieser Vorfall brachte das Thema erneut an die \u00d6ffentlichkeit und es f\u00fchrte zu vielen Diskussionen rund um das Thema. Streamer forderten ein hartes Durchgreifen von Twitch und die neuen Regeln sind wohl die Reaktion darauf.<\/p>\n

\n

Addressing Explicit Deepfake Content<\/h1>\n

In January, a brief \u201cdeepfake porn\u201d incident was live streamed on Twitch. This moment caused immense distress to those whose images were used without their consent, and set off a wave of conversations about the dangers that AI-generated explicit imagery can pose.<\/p>\n

The existence of this content, and its presence and distribution on various sites, is personally violating and beyond upsetting. Deepfake porn isn\u2019t a problem on Twitch, but it\u2019s a terrible issue that some streamers (almost exclusively women) may face on the internet at large. Though we have the most control over what happens on our own service, we want to help streamers protect themselves or respond quickly to this kind of situation anywhere it arises. To that end, in the weeks since the event, we\u2019ve been listening to the community, talking with streamers, and consulting with experts in the field about how to keep streamers protected\u2014on and off our service.<\/p>\n

On a technical note, we first need to address the phrase \u201cdeepfake porn.\u201d While this is the term most people use for this subject, it\u2019s important to make the distinction that these are \u201csynthetic non-consensual exploitative images,\u201d or \u201csynthetic NCEI.\u201d We understand synthetic NCEI is a much more complicated way of describing what seems to be the same thing, but after discussing the issue thoroughly with experts, we learned a few things regarding this label:<\/p>\n