La montée du discours de haine en ligne est un problème inquiétant, tendance croissante dans les pays du monde entier, avec de graves conséquences psychologiques et le potentiel d'impact, et même contribuer à, la violence du monde réel. Le contre-discours généré par les citoyens peut aider à décourager la rhétorique en ligne haineuse, mais il a été difficile à quantifier et à étudier. Jusque récemment, les études ont été limitées à une petite échelle, efforts étiquetés à la main.

Un nouvel article publié dans les actes de la Conférence 2020 sur les méthodes empiriques dans le traitement du langage naturel (EMNLP) propose un cadre pour étudier la dynamique de la haine en ligne et du contre-discours. L'article propose la première classification à grande échelle de millions de telles interactions sur Twitter. Les auteurs ont développé un algorithme d'apprentissage pour évaluer les données d'une situation unique sur Twitter allemand, et les résultats suggèrent que les mouvements organisés pour contrer le discours de haine sur les réseaux sociaux sont plus efficaces que les individus qui se lancent seuls.

Les auteurs présenteront leur article, « Contrer la haine sur les réseaux sociaux :classifications à grande échelle de la haine et contre-discours » lors du 20 novembre 2020, Atelier sur les abus et les méfaits en ligne, qui se déroule conjointement avec l'EMNLP 2020.

"J'ai vu ce grand changement dans le discours civil au cours des deux ou trois dernières années pour devenir beaucoup plus haineux et beaucoup plus polarisé, " dit Joshua Garland, mathématicien et chercheur en complexité appliquée au Santa Fe Institute. "Donc, pour moi, une question intéressante était la suivante :quelle est la réponse appropriée lorsque vous êtes victime de cyberintimidation ou lorsque vous recevez un discours de haine en ligne ? Répondez-vous ? Essayez-vous de faire en sorte que vos amis vous aident à vous protéger ? Est-ce que vous bloquez simplement la personne ?"

Pour étudier ces questions de manière scientifique, les chercheurs doivent d'abord avoir accès à une mine de données du monde réel à la fois sur le discours de haine et le contre-discours, et la capacité de faire la distinction entre les deux. Ces données existaient, et Garland et son collaborateur Keyan Ghazi-Zahedi de l'Institut Max Planck en Allemagne l'ont trouvé lors d'une interaction de cinq ans qui s'est déroulée sur Twitter allemand :un mouvement organisé se leva pour le contrer.

"La beauté de ces deux groupes, c'est qu'ils s'auto-étiquettent, " explique Mirta Galesic, sociologue de l'équipe et professeur de dynamique sociale humaine à la SFI. Elle dit que les chercheurs qui étudient le contre-discours doivent généralement employer des centaines d'étudiants pour coder manuellement des milliers de messages. Mais Garland et Ghazi-Zahedi ont pu saisir les messages auto-étiquetés dans un algorithme d'apprentissage automatique pour automatiser de larges pans de la classification. L'équipe s'est également appuyée sur 20 à 30 codeurs humains pour vérifier que les classifications des machines correspondaient à l'intuition de ce qui relève de la haine et du contre-discours.

Le résultat a été un ensemble de données d'une taille sans précédent qui permet aux chercheurs d'analyser non seulement des cas isolés de haine et de contre-discours, mais aussi comparer les interactions de longue durée entre les deux.

L'équipe a collecté un ensemble de données de millions de tweets publiés par les membres des deux groupes, utilisant ces tweets auto-identifiés pour entraîner leur algorithme de classification à reconnaître la haine et à contrer les discours. Puis, ils ont appliqué leur algorithme pour étudier la dynamique de quelque 200, 000 conversations qui ont eu lieu entre 2013 et 2018. Les auteurs prévoient de publier prochainement un article de suivi analysant la dynamique révélée par leur algorithme.

« Maintenant, nous pouvons résoudre un énorme ensemble de données de 2016 à 2018 pour voir comment la proportion de haine et de contre-discours a changé au fil du temps, qui obtient plus de likes, qui est retweeté, et comment ils se sont répondus », dit Galesic.

La quantité de données, une formidable aubaine, le rend également "incroyablement complexe, " note Garland. Les chercheurs sont en train de comparer les tactiques des deux groupes et de poursuivre des questions plus larges telles que celle de savoir si certaines stratégies de contre-discours sont plus efficaces que d'autres.

"Ce que j'espère, c'est que nous pourrons proposer une théorie sociale rigoureuse qui dira aux gens comment contrer la haine de manière productive et non polarisante, " Garland dit, "et ramener Internet au discours civil."