Amnesty accuse Twitter de ne toujours pas en faire assez pour protéger les femmes

Par Nicolas Six - Le Monde

Constatant la lenteur des progrès de la modération, l’ONG demande au réseau social d’appliquer dix recommandations pour lutter contre les abus. Amnesty en contrôlera régulièrement l’application.

« Le PDG de Twitter Jack Dorsey doit traduire ses paroles en actes et montrer qu’il est sincère dans sa volonté de faire [du réseau social] un endroit plus sûr pour les femmes. » Dans un rapport publié mardi 22 septembre, Amnesty International déplore qu’en dépit des promesses répétées depuis plus de cinq ans, « Twitter n’en fait toujours pas assez pour protéger les femmes contre les violences et les abus en ligne ».

L’ONG a consacré cinq rapports depuis 2017 aux violences subies par les femmes sur le réseau social, étudiant la situation au Royaume-Uni, aux Etats-Unis, en Argentine et en Inde. Elle affirme aujourd’hui que les femmes n’ont vu aucune amélioration majeure et font toujours état des mêmes souffrances qui les poussent à s’autocensurer.

Pour circonscrire les frontières du problème, Amnesty reprend la définition du Comité pour l’élimination des discriminations envers les femmes des Nations unies : « La violence basée sur le genre est une violence qui est dirigée envers une femme parce qu’elle est une femme, ou qui touche les femmes de façon disproportionnée. » Amnesty en liste plusieurs manifestations, visibles sur Twitter :

« Les menaces directes ou indirectes de nature physique ou sexuelle, les abus ciblant un ou plusieurs aspects de l’identité d’une femme comme le racisme ou la transphobie, le harcèlement ciblé, les violations de vie privée, le partage d’images intimes sans consentement. »

L’organisation a décidé de surveiller les évolutions de l’entreprise à l’oiseau bleu concernant dix recommandations qu’elle lui a transmises au fil des années. Périodiquement, Amnesty évaluera les progrès du réseau social sur ces dix points en employant une signalétique composée de dix « feux tricolores ».

Améliorer la transparence

Le bilan de l’ONG n’est pas entièrement négatif : depuis ses premiers échanges avec Twitter en 2017, l’entreprise a progressé sur certains points. Par exemple, les personnes signalant un abus disposent désormais d’un espace où rédiger un court texte pour décrire leur problème. Mais Amnesty considère que le réseau social doit faire « beaucoup plus » : un point est au vert, trois sont au rouge et six à l’orange.

La principale requête d’Amnesty est l’amélioration de la transparence. L’ONG souhaiterait que Twitter publie des statistiques fines sur les violences subies par les femmes, classées par types d’abus, par région et par année. Une initiative qui permettrait « d’avoir une image plus précise de l’ampleur et de la nature du phénomène, et d’évaluer les progrès, explique au Monde Rasha Abdul Rahim, codirectrice d’Amnesty Tech. Ce n’est pas à la société civile de mesurer ce phénomène, c’est Twitter qui a l’expertise pour cela. »

Amnesty souligne aussi l’opacité du réseau social sur les moyens mis en œuvre pour appliquer sa politique de modération. Plusieurs questions restent en suspens : combien de salariés s’en chargent ? Quels sont leur organisation et leurs délais de réponse lorsqu’on leur signale un abus ? Comment fonctionne le système d’intelligence artificielle ? Ne souffre-t-il pas de biais ? Les modérateurs « reçoivent-ils une formation suffisamment bonne pour connaître les langages et les subtilités culturelles de tous les pays », comme le demande Rasha Abdul Rahim ?

La modération est une tâche complexe pour la plupart des réseaux sociaux. Si certains, comme Facebook, ont accepté ces dernières années de donner un peu plus d’informations sur leur fonctionnement, la culture du secret règne encore chez Twitter.

L’ONG aimerait aussi connaître le volume de cas traités par la « cour d’appel » de Twitter, qui donne un second avis en cas de contestation d’une décision de modération. Elle appelle l’entreprise à communiquer sur ces violences par des campagnes de communication globales et ciblées, mais aussi à mesurer le taux de satisfaction des personnes signalant un abus. « Cela permettrait notamment de détecter d’éventuelles différences d’efficacité entre les zones géographiques », souligne Rasha Abdul Rahim.

« Il reste des choses à faire », reconnaît Twitter

Amnesty souhaite enfin que les femmes victimes de ces violences reçoivent un kit d’aide et d’information ciblé sur le type d’abus qu’elles ont subi, ainsi que des conseils sur les outils numériques pouvant les aider à s’en protéger.

« Il reste des choses à faire », reconnaît Twitter, dans une longue réaction publiée par Amnesty à la fin de son rapport. L’entreprise concède par exemple devoir progresser sur « la formation des modérateurs de contenus haineux, particulièrement quand ces derniers s’attaquent à l’identité » des utilisateurs. Mais elle conteste par ailleurs une partie des évaluations de l’ONG, qui, dit-elle, « ne rend pas compte de son travail de manière juste ou complète », et questionne la pertinence ou la faisabilité de certaines des recommandations.

L’entreprise s’interroge par exemple sur la façon de fournir une aide aux personnes ayant subi des violences, sous la forme de « liens et de ressources » : « bien que nous soutenions l’esprit de cette mesure, la façon donc nous pourrions la réaliser à grande échelle à travers l’ensemble de nos règles n’est pas claire ». Le réseau social pointe la difficulté, pour chaque cas spécifique, de choisir parmi les « centaines de partenaires et d’organisations » qui pourraient apporter leur aide à l’usager.

La firme affirme par ailleurs avoir fait des progrès qui n’apparaissent pas dans le rapport, sur les outils de filtrage des contenus offensants proposés aux utilisateurs, ou encore sur ses méthodes de détection automatique :

« Par le passé, nos actions étaient largement basées sur le signalement [par les utilisateurs] de contenus qui violaient les règles de Twitter (…). Parmi les Tweet que nous supprimons, nous en détectons aujourd’hui un sur deux de manière proactive, contre un sur cinq en 2018. »

L’entreprise ajoute qu’elle travaille toujours à améliorer sa plate-forme : « Nous testons actuellement des solutions visant à avertir les utilisateurs en ajoutant un niveau de friction lorsqu’ils postent des contenus potentiellement blessants. »