Le contenu malveillant COVID-19 (par exemple, la haine anti-asiatique) exploite les voies entre les plateformes de médias sociaux pour se propager en ligne. Crédit :Neil Johnson/GW
Contenu en ligne malveillant COVID-19, y compris le contenu raciste, désinformation et désinformation — prospère et se propage en ligne en contournant les efforts de modération des plateformes de médias sociaux individuelles, selon une nouvelle étude publiée dans la revue Rapports scientifiques . En cartographiant les groupes de haine en ligne sur six grandes plateformes de médias sociaux, des chercheurs de l'Université George Washington montrent comment les contenus malveillants exploitent les passerelles entre les plateformes, soulignant la nécessité pour les entreprises de médias sociaux de repenser et d'ajuster leurs politiques de modération de contenu.
Dirigé par Neil Johnson, professeur de physique à GW, l'équipe de recherche s'est attachée à comprendre comment et pourquoi les contenus malveillants prospèrent si bien en ligne malgré d'importants efforts de modération, et comment il peut être arrêté. L'équipe a utilisé une combinaison d'apprentissage automatique et de science des données de réseau pour étudier comment les communautés haineuses en ligne ont affiné COVID-19 comme une arme et ont utilisé les événements actuels pour attirer de nouveaux adeptes.
"Jusqu'à maintenant, ralentir la propagation de contenus malveillants en ligne, c'est comme jouer à un jeu de taupe, car une carte du multivers de la haine en ligne n'existait pas, " Johnson, qui est également chercheur au GW Institute for Data, Démocratie &Politique, mentionné. "Vous ne pouvez pas gagner une bataille si vous n'avez pas de carte du champ de bataille. Dans notre étude, nous avons dressé une carte unique en son genre de ce champ de bataille. Que vous examiniez des sujets de haine traditionnels, comme l'antisémitisme ou le racisme anti-asiatique autour du COVID-19, la carte du champ de bataille est la même. Et c'est cette carte des liens au sein et entre les plateformes qui est la pièce manquante pour comprendre comment nous pouvons ralentir ou arrêter la propagation du contenu haineux en ligne. »
Les chercheurs ont commencé par cartographier comment les groupes de haine s'interconnectent pour diffuser leurs récits sur les plateformes de médias sociaux. En se concentrant sur six plateformes—Facebook, VKontakte, Instagram, Gab, Telegram et 4Chan :l'équipe a commencé avec un groupe de haine donné et a regardé vers l'extérieur pour trouver un deuxième groupe fortement lié à l'original. Ils ont trouvé que les connexions les plus solides étaient VKontakte dans Telegram (40,83 % des connexions multiplateformes), Télégramme en 4Chan (11,09%), et Gab dans 4Chan (10,90%).
Les chercheurs se sont ensuite penchés sur l'identification des contenus malveillants liés au COVID-19. Ils ont constaté que la cohérence de la discussion sur COVID-19 a augmenté rapidement dans les premières phases de la pandémie, avec des groupes de haine formant des récits et s'articulant autour des sujets COVID-19 et de la désinformation. Pour subvertir les efforts de modération des plateformes de médias sociaux, les groupes envoyant des messages haineux ont utilisé plusieurs stratégies d'adaptation afin de se regrouper sur d'autres plateformes et/ou de réintégrer une plateforme, les chercheurs ont trouvé. Par exemple, les clusters changent fréquemment de nom pour éviter la détection par les algorithmes des modérateurs, comme le vaccin à va$$ine. De la même manière, les groupes antisémites et anti-LGBTQ ajoutent simplement des chaînes de 1 ou de A avant leur nom.
« Parce que le nombre de plateformes de médias sociaux indépendants augmente, ces clusters générateurs de haine sont très susceptibles de renforcer et d'étendre leurs interconnexions via de nouvelles liaisons, et exploitera probablement de nouvelles plates-formes qui se trouvent hors de la portée des juridictions des États-Unis et d'autres pays occidentaux. » Johnson a déclaré. « Les chances de faire travailler ensemble toutes les plates-formes de médias sociaux dans le monde pour résoudre ce problème sont très minces. Cependant, notre analyse mathématique identifie les stratégies que les plateformes peuvent utiliser en groupe pour ralentir ou bloquer efficacement le contenu haineux en ligne. »
Sur la base de leurs découvertes, l'équipe suggère aux plateformes de réseaux sociaux plusieurs moyens de ralentir la propagation de contenus malveillants :
"Notre étude démontre une similitude entre la propagation de la haine en ligne et la propagation d'un virus, " Yonatan Lupu, professeur agrégé de science politique à GW et co-auteur de l'article, mentionné. « Les plateformes de médias sociaux individuelles ont eu du mal à contrôler la propagation de la haine en ligne, qui reflète la difficulté qu'ont eu certains pays du monde à arrêter la propagation du virus COVID-19. »
Aller de l'avant, Johnson et son équipe utilisent déjà leur carte et sa modélisation mathématique pour analyser d'autres formes de contenu malveillant, y compris la militarisation des vaccins COVID-19 dans laquelle certains pays tentent de manipuler le sentiment dominant pour des gains nationalistes. Ils examinent également dans quelle mesure les acteurs isolés, y compris les gouvernements étrangers, peuvent jouer un rôle plus influent ou de contrôle dans cet espace que d'autres.
