The livestreaming service says it was already technically banned under other policies, but Twitch is making things explicit after a January incident. (via)
In 2018 haben die meisten Plattformen im Netz wie beispielsweise Reddit, Discord oder auch Twitter die Verbreitung von pornografischen Videos verboten, deren Darsteller durch Deepfake-Technologie verändert wurden. Auf diese Weise wollte man damals schon Racheakte verhindern und die Verbreitung von falschen Videos eindämmen. Eine der wenigen Plattformen, deren Richtlinien bisher kein direktes Verbot für Content dieser Art beinhalteten, war der Streaming-Anbieter Twitch.
Dieser Umstand hat sich in dieser Woche aber wohl endlich verändert. Twitch verkündete in einem neuen Blogeintrag auf ihrer Seite, dass sich die Regeln bezüglich Deepfake Pornos jetzt ganz offiziell verändert haben. Laut dieser Ankündigung ist Content dieser Art jetzt ganz offiziell auf Twitch verboten. Die Ausstrahlung dieser Inhalte war bisher zwar schon durch andere Regeln abdeckt, aber das spezifische Verbot geht noch ein wenig weiter.
Twitch verbietet seinen Streamern jetzt im Grunde jegliche Interaktion mit Content dieser Art. Wer Deepfake Pornos erstellt, bewirbt oder auch nur mit anderen Menschen teilt, der darf mit einem permanenten Bann auf der Plattform rechnen. Das Ganze betrifft wohl auch Tätigkeiten außerhalb von Twitch und nicht nur die auf der Plattform durchgeführten Streams. Wer sich mit Inhalten dieser Art beschäftigt, der könnte dafür bei Twitch gemeldet werden.
Ansonsten qualifiziert man sich wohl bereits für eine Strafe auf Twitch, wenn man nur ganz kurz einen Blick auf Bilder oder Aufnahmen dieser Art gewährt. Streams mit diesen Inhalten werden entfernt und Twitch wird Strafen an die entsprechenden Streamer verteilen. Situationen mit ganz kurzen Aufnahmen oder Bildern könnte es beispielsweise dann geben, wenn Streamer über das Thema selbst reden oder sich über andere Personen aufregen. Wer als Teil eines Rants einen erwischten Streamer zeigt, der darf dann wohl ebenfalls mit einer Sperre rechnen.
Ansonsten distanziert Twitch sich offiziell von dem Buzzwort „Deepfake Pornos“. Die Plattform bezeichnet diesen Content lieber als “synthetic non-consensual exploitative images” oder kurz NCEI. Diese Unterscheidung ist der Plattform wichtig, weil Pornos normalerweise im Einverständnis aller Beteiligten gedreht werden. Der problematische Content mit gefälschten Szenen basiert aber nicht auf dem Einverständnis von Nutzern, weshalb Twitch das Ganze auch schlimmer einstuft.
Der Grund für dieses Verbot und die drastischen Strafen ist wohl ein Vorfall aus dem Januar 2023. Damals wurde der Streamer Atrioc dabei erwischt, wie er nach Deepfake Pornos von einer anderen Streamerin gesucht hat. Dieser Vorfall brachte das Thema erneut an die Öffentlichkeit und es führte zu vielen Diskussionen rund um das Thema. Streamer forderten ein hartes Durchgreifen von Twitch und die neuen Regeln sind wohl die Reaktion darauf.
Addressing Explicit Deepfake Content
In January, a brief “deepfake porn” incident was live streamed on Twitch. This moment caused immense distress to those whose images were used without their consent, and set off a wave of conversations about the dangers that AI-generated explicit imagery can pose.
The existence of this content, and its presence and distribution on various sites, is personally violating and beyond upsetting. Deepfake porn isn’t a problem on Twitch, but it’s a terrible issue that some streamers (almost exclusively women) may face on the internet at large. Though we have the most control over what happens on our own service, we want to help streamers protect themselves or respond quickly to this kind of situation anywhere it arises. To that end, in the weeks since the event, we’ve been listening to the community, talking with streamers, and consulting with experts in the field about how to keep streamers protected—on and off our service.
On a technical note, we first need to address the phrase “deepfake porn.” While this is the term most people use for this subject, it’s important to make the distinction that these are “synthetic non-consensual exploitative images,” or “synthetic NCEI.” We understand synthetic NCEI is a much more complicated way of describing what seems to be the same thing, but after discussing the issue thoroughly with experts, we learned a few things regarding this label:
- Calling synthetic NCEI content “pornography” is incorrect. Porn (while prohibited on Twitch) should be consensual and should feature people who know they’re taking part in activities that others are going to see. That’s not what’s happening here, and why it’s important we reinforce unequivocally that this content is created without consent.
- “Deepfake” is an internet buzzword right now, but there are several methods used to create non-consensual content. Our approach needs to reflect and keep up with that wide range of technologies.
NCEI Policy Updates
One immediate step we’re taking is the clarification of some of our policy language. Synthetic NCEI is already prohibited under our policies today, and will of course continue to be enforced against. However, for the sake of clarity and to stay up to date with the terminology around safety topics as they evolve, we’re updating two of our policies. We will implement these updates over the next month.
1. We’re updating our Adult Sexual Violence and Exploitation policy to make it more clear that intentionally promoting, creating, or sharing synthetic NCEI can result in an indefinite suspension on the first offense.
2. We’re updating our Adult Nudity policy to include synthetic NCEI. Even if that NCEI is shown only briefly, or, for example, shown to express your outrage or disapproval of the content, it will be removed and will result in an enforcement.
Anzeige
