Le fonctionnement des réseaux sociaux dépend fondamentalement de l’architecture de l’algorithme qui les régit. De façon générale, l’engagement régulier au sein d’une communauté ou d’un groupe augmente la propension à se voir suggérer des contenus similaires à ceux appréciés par ses membres, et restreint les publications comportant des points de vue divergents, comme le démontrent les travaux de recherche du Pr David Chavalarias, mathématicien et directeur de recherche au CNRS.

Ces interactions mono-sens et hermétiques à la contradiction, alimentées par la désinformation ou les fake news, favorisent la radicalisation des idées et des opinions, provoquant ainsi une polarisation propice à l’expression du rejet, de la haine ou de la discrimination.

Une désinformation meurtrière

Avant d’en arriver au rôle des réseaux sociaux dans la prolifération des discours de haine, il est important de garder à l’esprit que la diffusion de fausses informations peut, dans certains cas, entraîner des conséquences tragiques, comme en témoigne Adel Alimi, dans un entretien accordé à Médias24. Cet acteur de la société civile, natif de Gafsa, un ville située au sud de la Tunisie, se souvient avec effroi d’un épisode tragique qui a secoué la région dont il est issu.

Les faits remontent à 2011. Lorsque les deux principaux clans tribaux de la ville de Métlaoui, les Jéridiens et les Ouled Bou Yahia, se sont livrés une guerre fratricide. Cette ville minière, où les tensions tribales sont palpables, est l’une des régions tunisiennes les plus touchées par le chômage des jeunes.

Adel se souvient de l’origine de cette rixe meurtrière : "Une personne mal intentionnée avait accroché une affiche sur la voie publique ; un faux communiqué, comportant un cachet falsifié de la Compagnie des Phosphates de Gafsa, annonçant que ladite compagnie allait favoriser le recrutement des Ouled Bou Yahia au détriment des personnes originaires de la tribu Jéridia. Cette annonce a marqué le début d’une guerre entre les deux clans, qui aura coûté la vie à 11 personnes et fait plus de 250 blessés. Certains cadavres ont été mutilés sur la place publique, et beaucoup d’autres atrocités ont été commises en représailles."

Cet épisode tragique reflète l’étendue des désastres qu’une fake news peut provoquer, indépendamment des canaux (rudimentaires ou sophistiqués) qu’elle emprunte pour sa diffusion.

Un discours anti-Subsahariens banalisé

A l’ère du digital, la viralité des discours de haine devient très rapidement incontrôlable, comme en témoigne Mohamed Sammouni, journaliste et animateur d’ateliers d’éducation aux médias : "Les discours de haine sont souvent dirigés vers les personnes ou les catégories les plus vulnérables dans une société. Au Maroc, cela peut concerner les migrants issus des pays d’Afrique subsaharienne. On rencontre ce genre de contenus haineux sur de nombreuses pages sur Facebook, et même dans les publications de certains médias."

Le phénomène prend davantage d’ampleur lorsque le discours de haine est banalisé, voire normalisé.

Retour en Tunisie. Le 21 février dernier, le président tunisien Kaïs Saïed avait tenu des propos violents à l’encontre des migrants clandestins issus des pays d’Afrique subsaharienne. Un discours vivement critiqué par de nombreuses organisations de défense des droits de l’Homme.

Il n’en fallait pas plus pour déclencher une spirale de violence dirigée à l’encontre non seulement des migrants d’origine subsaharienne mais également contre des citoyens tunisiens noirs. "Il y a une forme de légitimation de la violence, qui facilite le passage à l’acte, lorsque le discours de haine est banalisé dans la sphère publique. Cette légitimation peut passer par différents canaux ; soit le discours de haine est relayé dans les médias, soit il est porté par une personne qui incarne un pouvoir politique, une autorité religieuse, etc.", remarque Mohamed Sammouni.

Au Maroc, également un pays de transit et de résidence pour les citoyens subsahariens, les institutions publiques se montrent beaucoup plus vigilantes à l’égard de la prolifération des discours incitant à la haine ou à la discrimination. Le Conseil national des droits de l’Homme (CNDH) a d’ailleurs soumis un mémorandum dans le cadre de la révision du code pénal marocain pour tenter de faire barrage.

"Pour que l’on puisse garantir le respect des droits humains, nous avons proposé d’ajouter des dispositions qui sanctionnent certaines pratiques dont l’incitation à la violence, à la haine et à la discrimination. Car il s’agit d’une problématique qui prend de l’ampleur et est de plus en plus visible dans le monde digital. En tant qu’instance de protection des droits humains, nous avons vu le danger qui menace les valeurs de la démocratie, du dialogue et de la tolérance, et avons insisté sur la nécessité de criminaliser ce type de discours", explique Amina Bouayach, présidente du CNDH, à l’occasion d’un entretien tenu au siège du conseil à Rabat.

Sévir ou sensibiliser ?

En droit marocain, la production ou la diffusion d’un discours de haine est un délit. L’alinéa 5 de l’article 431, modifié en vertu de l’article premier de la loi 73-15, prévoit une peine de un à deux ans de réclusion et/ou une amende de 5.000 à 50.000 dirhams à l’encontre de toute personne qui incite à la discrimination ou à la haine entre les personnes, lorsque cette incitation "est commise par discours, cris ou menaces proférés dans les lieux ou réunions publics, par des affiches exposées aux regards du public ou par tout moyen qui remplit la condition de publicité y compris par voie électronique, sur papier ou par voie audiovisuelle".

Mais en pratique, face à la déferlante des discours de haine que l’on peut croiser sur les réseaux sociaux, le nombre d’affaires instruites reste relativement faible. En effet, entre l’année 2019 jusqu’à fin août 2022, seuls 42 dossiers portant sur l’incitation directe à la haine ou à la discrimination ont été enregistrés devant les différents tribunaux du royaume.

Toutefois, la répression n’apporte pas de solution à long terme, souligne Mohamed Sammouni. "On ne peut pas lutter efficacement contre le discours de haine ou discriminatoire uniquement à l’aide du logiciel répressif. Cela doit s’accompagner d’une sensibilisation et d’une éducation à la culture des droits humains. Ce n’est que de cette manière que la société pourra s’autoréguler, sans avoir à recourir systématiquement à la répression", estime la même source.

Délimiter les frontières du discours de haine

Le Haut Commissariat aux droits de l’Homme apporte une définition de ce qui devrait, du moins en théorie, constituer un délit d’incitation à la haine ou à la violence. Le Plan d’action de Rabat sur l’interdiction de tout appel à la haine nationale, raciale ou religieuse qui constitue une incitation à la discrimination, à l’hostilité ou à la violence, distingue trois types de discours : "L’expression qui constitue une infraction pénale, l’expression qui n’entraîne pas de sanction pénale, mais peut justifier une procédure civile ou des sanctions administratives, et l’expression qui ne donne pas suite à des sanctions pénales, civiles ou administratives, mais pose néanmoins des problèmes en matière de tolérance, de civilité et du respect des droits d’autrui".

L’imprécision dans la définition du discours incitant à la haine ou à la discrimination sera, dans certains cas, utilisée pour "pénaliser les expressions qui n’ont ni l’intention, ni la possibilité réaliste d’inciter à la haine", estime l’ONG britannique Media Legal Defence Initiative. "Une définition trop large du discours de haine et de la désinformation, des dispositions vagues qui permettent une interprétation discrétionnaire par les forces de l’ordre telles que les procureurs et les tribunaux, et qui permettent également aux lois d’abuser des droits fondamentaux, de tenir les intermédiaires de l’Internet pour responsables de la surveillance du contenu et de prévoir des sanctions trop sévères et punitives en cas de violation", sont autant d’imprécisions qui portent préjudice au droit à la liberté d’expression.

Afin d’éviter ces dérives, les recommandations du Plan d’action de Rabat ont défini six indicateurs qui permettent d’évaluer la gravité du discours. Il s’agit du contexte politique et social dans lequel intervient le discours, du rôle ou du statut de l’orateur dans la société, de l’objet ou de l’intention de l’auteur, du contenu ou de la forme du discours, de son ampleur (au regard de la taille de l’audience) et finalement de la probabilité que le discours incite à une action violente contre une catégorie de personnes. Ce sont ces paramètres qui permettent, d’après les recommandations, de juger du sérieux et de la gravité des propos tenus.