dans

Harassment Manager : Google publie le code de son outil anti-harcèlement

Harassment Manager

L’outil open source de Google appelé Harassment Manager vise à protéger les journalistes du harcèlement en ligne.

Les journalistes, et particulièrement les femmes, font l’objet de harcèlement sur les plateformes en ligne depuis des années. Hier, l’unité Jigsaw de Google a publié le code de son outil anti-harcèlement pour lutter contre ces messages toxiques.

Les femmes sont les principales cibles de cyberharcèlement

Dans le cadre de la journée internationale des femmes, l’unité Jigsaw de Google a publié le code open source de son application appelée Harassment Manager. Il s’agit d’un outil anti-harcèlement qui permet d’examiner et d’appliquer différentes mesures sur les commentaires toxiques dans les médias sociaux.

Harassment Manager se destine principalement aux journalistes qui font souvent l’objet d’abus verbaux. Entre autres victimes, les femmes sont particulièrement ciblées par ces harcèlements. Selon Jigsaw, 70 % des femmes journalistes reçoivent des menaces en ligne dont 40 % ont fini par arrêter de publier leur histoire.

Harassment Manager, l’outil anti-harcèlement de l’unité Jigsaw de Google

En publiant le code Harassment Manager, Google espère donc protéger les femmes avant tout. Mais les activistes, les politiciens et d’autres personnalités publiques peuvent également en bénéficier.

L’outil est actuellement disponible en application Web et fonctionne sur Twitter. Rappelons que l’unité Jigsaw de Google a été créée dans le but d’explorer les cybermenaces sur les communautés ouvertes. Elle collabore avec Twitter pour développer une technologie de cybersécurité évolutive en réponse à ces menaces.

Avec l’API Perspective de Jigsaw, Harassement Manager aide à détecter les commentaires préjudiciables, à les documenter et à les masquer facilement. L’outil permet également de mettre en sourdine ou de bloquer le compte des harceleurs.

Par ailleurs, Perspective donne également à l’outil la possibilité de trier les messages en fonction de leur niveau de nocivité. Cela permet aux utilisateurs de traiter les messages par lot au lieu de les lire individuellement. D’autre part, Google a également ajouté une fonction optionnelle à Harassment Manager qui consiste à générer un rapport concernant les commentaires abusifs.

En tant que code source ouvert, les développeurs ont la possibilité de créer leurs propres applications pour intégrer l’outil à différents services. Enfin, Jigsaw affirme qu’elle continue d’explorer d’autres moyens de mettre l’outil au service de la sécurité des utilisateurs.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.