La haine en ligne prospère à l'échelle mondiale grâce à l'auto-organisation, des clusters évolutifs qui s'interconnectent pour former des réseaux résilients répartis sur plusieurs plateformes de médias sociaux, pays et langues, selon une nouvelle étude publiée aujourd'hui dans la revue La nature . Des chercheurs de l'Université George Washington ont développé un modèle de cartographie, le premier du genre, pour suivre comment ces groupes de haine en ligne prospèrent. Ils pensent que cela pourrait aider les plateformes de médias sociaux et les forces de l'ordre dans la lutte contre la haine en ligne.

Avec l'explosion des réseaux sociaux, les individus peuvent se connecter avec d'autres personnes partageant les mêmes idées en quelques clics. Des groupes de personnes ayant des intérêts communs se forment facilement et facilement. Récemment, les idéologies de haine en ligne et les récits extrémistes ont été liés à une recrudescence des crimes dans le monde. Pour contrecarrer cela, chercheurs dirigés par Neil Johnson, professeur de physique à GW, a cherché à mieux comprendre comment la haine en ligne évolue et si elle peut être arrêtée.

"La haine détruit des vies, non seulement comme nous l'avons vu à El Paso, Orlando et la Nouvelle-Zélande, mais psychologiquement à travers l'intimidation et la rhétorique en ligne, " a déclaré le Dr Johnson. " Nous avons entrepris d'aller au fond de la haine en ligne en examinant pourquoi elle est si résistante et comment elle peut être mieux combattue. Au lieu que l'amour soit dans l'air, nous avons découvert que la haine est dans l'éther."

Pour comprendre comment la haine évolue en ligne, l'équipe a commencé par cartographier comment les clusters s'interconnectent pour diffuser leurs récits et attirer de nouvelles recrues. En se concentrant sur les plateformes de médias sociaux Facebook et son homologue d'Europe centrale, VKontakte, les chercheurs ont commencé avec un groupe de haine donné et ont regardé vers l'extérieur pour en trouver un deuxième qui était fortement lié à l'original. Ils ont découvert que la haine dépasse les frontières de plates-formes Internet spécifiques, y compris Instagram, Snapchat et WhatsApp ; position géographique, y compris les États-Unis, Afrique du Sud et certaines parties de l'Europe; et les langues, y compris l'anglais et le russe.

Les chercheurs ont vu des clusters créer de nouvelles stratégies d'adaptation afin de se regrouper sur d'autres plateformes et/ou de réintégrer une plateforme après avoir été bannis. Par exemple, les clusters peuvent migrer et se reconstituer sur d'autres plateformes ou utiliser des langages différents pour éviter la détection. Cela permet au cluster de ramener rapidement des milliers de supporters sur une plateforme sur laquelle ils ont été bannis et met en évidence la nécessité d'une coopération multiplateforme pour limiter les groupes haineux en ligne.

"L'analogie est quelle que soit la quantité de désherbant que vous placez dans un jardin, le problème reviendra, potentiellement plus agressive. Dans le monde en ligne, tous les chantiers du quartier sont interconnectés de manière très complexe, presque comme des trous de ver. C'est pourquoi les plates-formes de médias sociaux individuelles comme Facebook ont ​​besoin de nouvelles analyses comme la nôtre pour trouver de nouvelles approches pour les faire prendre une longueur d'avance, " a déclaré le Dr Johnson.

L'équipe, qui comprenait des chercheurs de l'Université de Miami, a utilisé les informations de sa cartographie de la haine en ligne pour développer quatre stratégies d'intervention que les plateformes de médias sociaux pourraient immédiatement mettre en œuvre en fonction des circonstances :

• Réduisez la puissance et le nombre de clusters volumineux en interdisant les clusters plus petits qui les alimentent.
• Attaquez le talon d'Achille des groupes haineux en ligne en interdisant au hasard une petite fraction d'utilisateurs individuels afin de faire en sorte que le réseau mondial de clusters en fasse partie.
• Dressez les grands clusters les uns contre les autres en aidant les clusters anti-haine à trouver et à interagir directement avec les clusters haineux.
• Mettre en place des clusters intermédiaires qui engagent les groupes haineux pour aider à faire ressortir les différences d'idéologies entre eux et les amener à commencer à remettre en question leur position.

Les chercheurs ont noté que chacune de leurs stratégies peut être adoptée à l'échelle mondiale et simultanément sur toutes les plateformes sans avoir à partager les informations sensibles des utilisateurs individuels ou les secrets commerciaux, qui a été une pierre d'achoppement auparavant.

En se basant sur cette carte et sa modélisation mathématique, Le Dr Johnson et son équipe développent un logiciel qui pourrait aider les régulateurs et les organismes d'application à mettre en œuvre de nouvelles interventions.