L’idéologie incel et les disciples qu’elle attire ont su s’immiscer au-delà des forums 4Chan et Reddit et se sont répandus partout sur les plateformes de réseaux sociaux. Voulant attirer « le plus d’utilisateurs possible », ces mêmes plateformes auraient peu de motivations à mettre en place des protections contre la radicalisation à l’idéologie incel, remarquent des experts consultés par Le Devoir.L’auteur de la fusillade de lundi dans le quartier de Côte-des-Neiges a laissé derrière lui un manifeste où l’idéologie incel, populaire sur les réseaux sociaux en raison de son contenu extrémiste, constitue le fil conducteur de son texte.Esli Chan, doctorante au Département de science politique à l’Université McGill et chercheuse principale pour l’Observatoire de l’écosystème médiatique, décrit un processus graduel qui amène un internaute à adhérer au contenu de l’idéologie. Elle explique que plusieurs contenus radicaux ou extrémistes sont d’abord créés sur des plateformes comme YouTube et TikTok, avec l’objectif de diriger des utilisateurs vers des espaces et des forums consacrés à la communauté incel.Si les plateformes de réseaux sociaux s’intéressent à la prévention de la radicalisation extrémiste et à la modération de ce type de contenu, c’est souvent après que le mal soit survenu, confirme pour sa part Pierre Trudel, professeur émérite à la Faculté de droit de l’Université de Montréal et chroniqueur au Devoir.C’est avant tout « sous la pression de l’opinion publique » que les plateformes de réseaux sociaux avaient choisi d’intensifier leurs pratiques de modération, rappelle-t-il, se référant à la réaction de la compagnie Meta face aux attentats de Christchurch en Nouvelle-Zélande. En 2019, à la suite de l’échec de Meta pour bloquer la diffusion en direct de cette tragédie, Meta, Google, Twitter et d’autres géants du Web s’étaient alors engagés à renforcer leurs efforts « pour éviter que leurs plateformes soient utilisées pour propager de la haine, organiser des groupes extrémistes et diffuser des attaques ».Avec les lois actuelles au Canada, le professeur de droit note que les plateformes ne peuvent être tenues légalement responsables du processus de radicalisation extrémiste de leurs utilisateurs, à moins qu’il soit démontré qu’elles avaient une « pleine connaissance des propos délictueux », comme « des menaces de mort, des menaces sexistes, ou des menaces racistes ».Les algorithmes au cœur des débatsSur les réseaux sociaux, un algorithme — une série d’instructions visant à résoudre un problème — peut être conçu pour plusieurs raisons : retenir l’attention d’un utilisateur, garantir son retour sur une plateforme ou perfectionner la recommandation de contenu qui lui est destiné.Alors que ces plateformes ne sont pas juridiquement contraintes, la possibilité que leurs algorithmes en viennent « en quelque sorte à amplifier, et même à encourager des comportements extrêmes ou des comportements radicaux » est alarmante, indique M. Trudel.