En s'appuyant sur le machine learning, Twitch a enfin trouvé un moyen de détecter les personnes qui échappent aux interdictions.
Sur les plateformes de médias sociaux, les trolls et les harceleurs continuent de sévir malgré les multiples interdictions. Dans ses efforts pour réduire ces activités malveillantes, Twitch met en place un nouvel outil appelé Suspicious User Detection.
Suspicious User Detection : le nouvel outil de machine learning par Twitch
Twitch a annoncé un outil qui utilise le machine learning pour détecter les personnes qui tentent d'échapper aux interdictions. Il s'agit de son dernier ajout dans la lutte contre les raids haineux. Appelé Suspicious User Detection, cet outil permet d'identifier les utilisateurs « probables » ou « possibles » d'avoir contourné les interdictions de la chaîne d'un streamer.
Entre autres, le modèle d'apprentissage automatique se base sur le comportement et les caractéristiques du compte de l'utilisateur. Il compare ensuite ces informations avec celles des comptes qui ont été bannis de la chaîne. Dans la catégorie “probables”, les messages ne seront pas envoyés sur le chat. Néanmoins, les streamers et les modos pourront les voir. Quant aux « possibles » évadés, leurs messages apparaîtront dans le chat, mais les streamers et les modérateurs pourront les bloquer.
Par ailleurs, les streamers et les modos peuvent également surveiller un utilisateur en l'ajoutant manuellement à une liste. Avec cette option, le nom de l'utilisateur s'affichera avec un message pour signaler qu'il s'agit d'un compte à surveiller.
Une fonctionnalité activée par défaut
Twitch prévoit d'activer l'outil Suspicious User Detection par défaut pour tous les utilisateurs. Toutefois, si les streamers le souhaitent, ils peuvent le désactiver. De plus, l'outil de machine learning de Twitch ne bannira pas automatiquement des comptes. Selon l'équipe, il apprendra des actions des streamers, cependant, ces derniers restent les seuls décideurs sur qui peut participer aux chats.
Alison Huffman est la directrice des produits pour la santé communautaire chez Twitch. Elle explique, au nom des modos, que la distinction des trolls des spectateurs novices pouvait être difficile. Grâce à ce nouvel outil d'IA et les informations qu'il fournit, la prise de décisions sera plus efficace.
Rappelons quand même qu'au cours de cet été, Twitch a eu du mal à contenir les raids haineux. Espérons donc que cet ajout permettra réellement de bannir complètement les individus responsables de ces propos haineux.
- Partager l'article :
