Twitch möchte Trolle mit Maschinellen Lernen bekämpfen

Twitch is furthering its efforts to reduce harassment with a new tool that uses machine learning to detect people who may be attempting to evade bans. It’s the company’s latest addition to combat things like hate raids, where streamers’ chats are overrun with trolls sending hateful messages. (via)

Die Plattform Twitch hatte in den letzten Monaten verstärkt Probleme mit Trollen, Spammern und anderen problematischen Menschen, die aktiv Streamer oder Zuschauer belästigt haben. Von diesen Personen gingen auch regelmäßig sogenannte Hate Raids aus, die einen Chat auf Twitch mit negativen Kommentaren und Beleidigungen fluteten. Um noch stärker gegen solche Problemfälle vorzugehen, hat Twitch gestern Abend eine neue Funktion für ihre Seite vorgestellt.

Diese Neuerung läuft unter der Bezeichnung „Suspicious User Detection„. Dieses System kann wohl Nutzer auf Twitch ausfindig machen, die zwar negativ aufgefallen sind, aber einem Bann auf einem Kanal clever aus dem Weg gehen konnten. Dafür verwendet diese Neuerung das maschinelle Lernen, welches es dem Tool erlaubt, das Verhalten von Nutzern zu untersuchen und mit bestätigten Problemfällen zu vergleichen. Wenn solch eine ungebannte Person ausfindig gemacht wird, dann stuft das System diese Menschen als „mögliche Problemfälle“ ein.

Wer solch eine Markierung als möglicher Störenfried erhält, der wird auf einige Weisen in dem Chat von Twitch limitiert. Die von solch einer Person abgeschickten Nachrichten können dann nämlich nur noch von dem Streamer und seinen Mods gehen werden. Es kann bei einem Fehlverhalten dann direkt eine Strafe folgen und die Nutzer selbst werden nicht belästigt. Mods und Streamer können Nutzer auch per Hand markieren und dadurch im Chat deutlich besser überwachen.

Streamer wünschen sich schon seit Monaten mehr Tools zum Kontrollieren und Überwachen ihres Chats. Diese Neuerung sollte in diesem Bereich auf jeden Fall helfen, wenn das Ganze den korrekt funktioniert. Das Markieren von unschuldigen Zuschauern sollte auf jeden Fall vermieden werden. Ansonsten könnte das Tool relativ schnell ein Problem für viele Nutzer darstellen.

(via)

Anzeige