L'Observatoire des médias sociaux de l'Université de l'Indiana a lancé un nouvel outil de lutte contre la désinformation en ligne :BotSlayer.

Les logiciels, qui est gratuit et ouvert au public, scanne les médias sociaux en temps réel pour détecter des preuves de comptes Twitter automatisés - ou "bots" - poussant des messages de manière coordonnée, une pratique de plus en plus courante pour manipuler l'opinion publique en créant la fausse impression que de nombreuses personnes parlent d'un sujet particulier. La méthode est également connue sous le nom d'« astroturfing » car elle imite l'apparence d'une activité politique populaire légitime.

En s'appuyant sur l'expertise et l'infrastructure technologique de l'observatoire, BotSlayer donne aux groupes et aux individus de toute affiliation politique le pouvoir de détecter des campagnes de désinformation coordonnées en temps réel, sans aucune connaissance préalable de ces campagnes. Le développement du logiciel a été soutenu par un don de Craig Newmark Philanthropies.

"Nous avons développé BotSlayer pour permettre aux journalistes et aux campagnes politiques de surveiller plus facilement les nouvelles campagnes de désinformation potentielles qui tentent de manipuler l'opinion publique à l'aide de bots, " a déclaré Filippo Menczer, professeur à l'IU School of Informatics, Informatique et Ingénierie et directeur de l'Observatoire des médias sociaux. « S'il y a un pic de trafic suspect autour d'un sujet spécifique, BotSlayer vous permet de le repérer très rapidement afin que vous puissiez enquêter sur le contenu et ses promoteurs et, s'il semble y avoir abus de la plateforme, signalez-le ou communiquez-le à vos abonnés."

L'utilisation de robots trompeurs pour influencer l'opinion publique est un problème croissant en politique aux États-Unis et dans le monde, a ajouté Menczer, qui fait également partie d'un groupe de chercheurs qui ont découvert une utilisation répandue des robots à l'approche de l'élection présidentielle américaine de 2016. D'autres campagnes de bots ont cherché à influencer les votes liés au mouvement britannique Brexit et aux élections en France, Allemagne et Italie.

A l'approche des élections de mi-mandat en 2018, par exemple, le Comité de campagne du Congrès démocrate a utilisé des outils accessibles au public créés par l'observatoire pour signaler plus de 10, 000 bots diffusant des messages de suppression d'électeurs sur Twitter, qui a fermé les comptes. Les outils utilisés pour informer le rapport étaient Botometer, qui utilise un algorithme pour attribuer un score aux comptes Twitter en fonction de la probabilité qu'ils soient automatisés, et Hoaxy, qui permet aux individus de rechercher et de visualiser la diffusion de sujets spécifiques sur Twitter en temps réel. Botometer est l'un des outils les plus populaires de l'observatoire, recevant actuellement plus de 100, 000 requêtes par jour.

BotSlayer, qui combine la technologie de Hoaxy et Botometer, a été créé en partie sur la base des retours d'informations d'organisations politiques et de presse demandant de rendre les outils de l'observatoire plus rapides, plus puissant et plus convivial. Ces organisations comprennent l'Associated Press, Le New York Times et CNN.

Le système utilise un « algorithme de détection d'anomalies » pour signaler rapidement les tendances d'activité dont la poussée soudaine est probablement provoquée par des bots, a dit Menczer.

Par exemple, BotSlayer pourrait être utilisé lors d'un débat présidentiel non seulement pour détecter instantanément quand le nom d'utilisateur d'un candidat ou les hashtags associés sont à la mode, mais aussi attribuer automatiquement un "score de bot" pour indiquer si la poussée semble liée à l'activité du bot. Dans les affaires, BotSlayer pourrait aider les organisations à se protéger contre les menaces de réputation qui s'appuient sur des comptes automatisés pour amplifier les messages. Dans le journalisme, l'outil pourrait être utilisé pour surveiller contre la manipulation des rapports sur des sujets tendances, ou mettre en garde le public contre les attaques de désinformation.

En plus de détecter les tendances, BotSlayer peut générer instantanément une "carte du réseau" qui illustre comment un sujet particulier se propage au fil du temps. Un score de bot est également attribué à chaque utilisateur du réseau, fournissant un moyen facile de voir les comptes les plus influents, réels ou faux, dans la conversation. Chaque « entité » tendance :un hashtag ; une poignée d'utilisateur ; une image, vidéo, gif ou mème ; ou un mot-clé ou une expression—est également attribué un pourcentage pour indiquer à quelle vitesse il augmente. Un pourcentage de 5, 000 indique une multiplication par 50 des mentions au cours des quatre dernières heures, par exemple.

Pour utiliser BotSlayer, les utilisateurs peuvent télécharger le logiciel via un formulaire en ligne et suivre des instructions simples pour l'installer dans le cloud ou sur leur propre serveur. Ce processus peut être effectué en quelques clics, et sans frais. Il permet aux utilisateurs de personnaliser leur utilisation de l'outil et protège la confidentialité. Le système est accessible via un tableau de bord web intégré aux autres outils de l'observatoire.

Ce qu'ils disent

"BotSlayer a le potentiel d'être un nouvel outil très puissant dans notre lutte mondiale contre la désinformation et la désinformation. Lors des élections de 2018, nous avons utilisé une version antérieure de BotSlayer pour identifier et finalement supprimer les comptes malveillants tout au long des élections générales. C'était très efficace et facile à utiliser. Ce travail de pointe de l'Observatoire des médias sociaux d'IU est un service public extraordinaire et très apprécié. Mon espoir est que les acteurs des démocraties du monde entier en profitent comme nous l'avons fait pour la dernière élection ici aux États-Unis."—Simon Rosenberg, un stratège démocrate et conseiller principal du DCCC pendant le cycle électoral 2017-18.