Sauver la démocratie représentative des trolls en ligne

Et pourtant, au cours de la dernière année, des plateformes telles que Meta, X (anciennement Twitter) et YouTube ont réduit la modération du contenu et annulé les politiques qui permettaient auparavant d'enrayer la haine, le harcèlement et les mensonges en ligne. Selon un nouveau rapport, cela alimente un "environnement en ligne toxique qui est vulnérable à l'exploitation de forces anti-démocratiques, de suprémacistes blancs et d'autres acteurs malveillants".

Les attaques en ligne contre les femmes politiques sont déjà en hausse. Quatre femmes parlementaires sur cinq sont victimes de violences psychologiques, notamment de harcèlement, d'intimidation, de violence verbale ou de persécutions, tandis que plus de 40% ont été menacées d'agression, de violence sexuelle ou de mort.

Les élections de 2020 aux États-Unis ont été particulièrement révélatrices. Une analyse récente des candidats au Congrès a révélé que les femmes Démocrates ont reçu dix fois plus de commentaires abusifs sur Facebook que leurs homologues masculins. En outre, immédiatement après que le candidat à la présidence Joe Biden eut nommé Kamala Harris comme colistière, de fausses déclarations sur Harris ont été partagées au moins 3.000 fois par heure sur Twitter.

Des tendances similaires ont été documentées en Inde, au Royaume-Uni, en Ukraine et au Zimbabwe. Les femmes appartenant à des minorités sont confrontées aux pires abus, ainsi qu'à celles qui sont très visibles dans les médias ou qui s'expriment sur des questions féministes. En Inde, un tweet sur sept sur les femmes politiques est problématique ou abusif, les femmes musulmanes et les femmes appartenant à des castes marginalisées étant les principales victimes d'attaques au vitriol.

Le ciblage disproportionné des femmes les décourage de se porter candidates, les pousse à abandonner la carrière politique ou les amène à se désengager du discours en ligne, ce qui nuit à leur efficacité politique – autant de facteurs qui affaiblissent la démocratie. En Italie, "les menaces de viol sont utilisées pour intimider les femmes politiques et les chasser de la sphère publique", explique Laura Boldrini, une politicienne italienne qui a été présidente de la Chambre des députés du pays, ajoutant que les dirigeants politiques eux-mêmes émettent souvent ces propos menaçants. Cela crée un cercle vicieux, car il a été démontré que la pénurie de femmes au gouvernement aboutit à des politiques moins efficaces pour réduire la violence à l'égard des femmes.

Les entreprises technologiques doivent prendre quatre mesures pour contrer cette tendance. Pour commencer, elles devraient publier des lignes directrices sur ce qui constitue le discours de haine et le harcèlement menaçant et intimidant sur leurs plateformes. Certains géants de la technologie ont inclus et même fourni des exemples de discours de haine genrés dans leurs politiques. La politique YouTube de Google en est un exemple.

Deuxièmement, les plates-formes doivent réinvestir dans une modération efficace du contenu pour tous les pays, pas seulement les États-Unis et l'Europe. Cela signifie utiliser une combinaison de capital humain et de systèmes automatisés améliorés (pendant la pandémie de Covid-19, lorsque les entreprises technologiques s'appuyaient davantage sur les algorithmes, les militants en France ont remarqué que les discours de haine sur Twitter ont augmenté de plus de 40%). Il est tout aussi important de former les modérateurs humains à identifier la violence en ligne contre les femmes en politique et d'investir plus équitablement dans une modération efficace du contenu. Jusqu'à présent, le travail désagréable consistant à trouver et supprimer du contenu offensant était généralement externalisé dans des régions où la main-d'œuvre était la moins coûteuse.

Troisièmement, les principes de "conception sûre" devraient être intégrés dans les nouveaux produits et outils. Cela pourrait signifier la mise en place de mécanismes qui "accroissent les frictions" pour les utilisateurs et rendent plus difficile la propagation des discours de haine et de désinformation sexistes. Les entreprises doivent améliorer leurs pratiques d'évaluation des risques avant de lancer des produits et des outils ou de les introduire sur un nouveau marché. Il sera également important d'investir dans l'innovation, comme le ParityBOT, qui sert d'outil de suivi et de contrepoids en détectant les tweets problématiques concernant les candidates et en répondant par des messages positifs.

Enfin, un suivi indépendant par des chercheurs ou des groupes de citoyens aiderait les sociétés à suivre le problème et la manière dont les plateformes technologiques le traitent. Un tel suivi exigerait des entreprises qu'elles donnent accès à leurs données sur le nombre et la nature des plaintes reçues, ventilées par sexe, pays et réponses.

Dans le contexte du recul des politiques de contenu des entreprises de médias sociaux et de la baisse des investissements dans la modération, il est important de noter que le pourcentage de femmes occupant des postes de direction dans le domaine des technologies est actuellement de 28% et est en baisse. Si comme en politique, les dirigeantes technologiques sont plus susceptibles de s'attaquer à la violence à l'égard des femmes, cette tendance pourrait créer un cercle vertueux dans ce domaine.

De manière cruciale, les gouvernements doivent également prendre des mesures pour empêcher les abus sexistes en ligne de saper la démocratie. La Tunisie et la Bolivie ont interdit la violence politique et le harcèlement contre les femmes, tandis que le Mexique a récemment promulgué une loi qui inflige des peines pouvant aller jusqu'à neuf ans de prison à ceux qui créent ou diffusent des images intimes ou des vidéos de femmes ou attaquent les femmes sur les réseaux sociaux.

Au Royaume-Uni, des directives juridiques publiées en 2016 et en 2018 permettent de poursuivre les trolls qui créent des hashtags désobligeants, se livrent à du mobbing virtuel (des discours incitant les gens à harceler les autres) ou font circuler des images falsifiées. En 2017, l'Allemagne a introduit une loi qui oblige les plateformes à supprimer les discours haineux ou les contenus illégaux dans les 24 heures, sous peine de se voir infliger des millions de dollars d'amende (une mesure similaire a été annulée en France par crainte de censure).

Mais même lorsque des lois existent, les femmes politiques parlent d'abus "pratiquement constants" et signalent que les agents de la force publique ne prennent pas au sérieux les menaces et les abus en ligne. Au Royaume-Uni, par exemple, moins de 1% des cas signalés à l'unité de crime haineux en ligne de Scotland Yard ont donné lieu à des accusations. Les policiers et les juges ont besoin d'une meilleure formation pour comprendre comment les lois existantes peuvent être appliquées à la violence en ligne contre les femmes politiques : trop de gens pensent que cela fait simplement "partie du travail".

Les entreprises technologiques et les gouvernements doivent agir maintenant pour garantir que les hommes et les femmes puissent participer sur un pied d'égalité aux élections de l'année prochaine. Si rien n'est entrepris en ce sens, les démocraties représentatives deviendront moins démocratiques et moins représentatives.