Une analyse des informations partagées sur Twitter lors de l'élection présidentielle américaine de 2016 a révélé que les comptes automatisés – ou « bots » – jouaient un rôle disproportionné dans la diffusion de fausses informations en ligne.

L'étude, menée par des chercheurs de l'Université de l'Indiana et publiée le 20 novembre dans la revue Communication Nature , analysé 14 millions de messages et 400, 000 articles partagés sur Twitter entre mai 2016 et mars 2017, une période qui s'étend sur la fin des primaires présidentielles de 2016 et l'investiture présidentielle le 20 janvier, 2017.

Parmi les résultats :à peine 6 % des comptes Twitter identifiés par l'étude comme des robots suffisaient à diffuser 31 % des informations « de faible crédibilité » sur le réseau. Ces comptes étaient également responsables de 34 pour cent de tous les articles partagés à partir de sources « de faible crédibilité ».

L'étude a également révélé que les robots jouaient un rôle majeur dans la promotion d'un contenu peu crédible dans les premiers instants avant qu'une histoire ne devienne virale.

La courte durée de ce temps – 2 à 10 secondes – met en évidence les défis liés à la lutte contre la propagation de la désinformation en ligne. Des problèmes similaires sont observés dans d'autres environnements complexes comme le marché boursier, où de graves problèmes peuvent survenir en quelques instants en raison de l'impact du trading à haute fréquence.

"Cette étude révèle que les robots contribuent de manière significative à la propagation de la désinformation en ligne, et montre à quelle vitesse ces messages peuvent se propager, " a déclaré Filippo Menczer, professeur à l'IU School of Informatics, Informatique et Ingénierie, qui a dirigé l'étude.

L'analyse a également révélé que les robots amplifient le volume et la visibilité d'un message jusqu'à ce qu'il soit plus susceptible d'être largement partagé, bien qu'il ne représente qu'une petite fraction des comptes qui diffusent des messages viraux.

« Les gens ont tendance à faire davantage confiance aux messages qui semblent provenir de nombreuses personnes, " a déclaré le co-auteur Giovanni Luca Ciampaglia, un chercheur adjoint au IU Network Science Institute au moment de l'étude. "Les robots exploitent cette confiance en faisant en sorte que les messages semblent si populaires que de vraies personnes sont amenées à diffuser leurs messages pour eux."

Les sources d'information qualifiées de peu crédibles dans l'étude ont été identifiées en fonction de leur apparition sur des listes produites par des organisations tierces indépendantes de points de vente qui partagent régulièrement des informations fausses ou trompeuses. Ces sources, telles que les sites Web portant des noms trompeurs tels que "USAToday.com.co", incluent des points de vue à la fois de droite et de gauche.

Les chercheurs ont également identifié d'autres tactiques pour diffuser de la désinformation avec les robots Twitter. Celles-ci comprenaient l'amplification d'un seul tweet, potentiellement contrôlé par un opérateur humain, sur des centaines de retweets automatisés; répéter les liens dans les publications récurrentes ; et en ciblant des comptes très influents.

Par exemple, l'étude cite un cas dans lequel un seul compte a mentionné @realDonaldTrump dans 19 messages distincts sur des millions d'immigrants illégaux votant à l'élection présidentielle – une fausse affirmation qui était également un sujet de discussion majeur de l'administration.

Les chercheurs ont également mené une expérience dans une version simulée de Twitter et ont découvert que la suppression de 10 % des comptes du système, en fonction de leur probabilité d'être des bots, entraînait une baisse importante du nombre d'histoires provenant de sources peu crédibles. dans le réseau.

"Cette expérience suggère que l'élimination des bots des réseaux sociaux réduirait considérablement la quantité de désinformation sur ces réseaux, " a déclaré Menczer.

L'étude suggère également des mesures que les entreprises pourraient prendre pour ralentir la propagation de la désinformation sur leurs réseaux. Il s'agit notamment d'améliorer les algorithmes pour détecter automatiquement les robots et de nécessiter un « humain dans la boucle » pour réduire les messages automatisés dans le système. Par exemple, les utilisateurs peuvent être tenus de remplir un CAPTCHA pour envoyer un message.

Bien que leur analyse se soit concentrée sur Twitter, les auteurs de l'étude ont ajouté que d'autres réseaux sociaux sont également vulnérables à la manipulation. Par exemple, des plates-formes telles que Snapchat et WhatsApp peuvent avoir du mal à contrôler la désinformation sur leurs réseaux car leur utilisation du cryptage et des messages destructibles complique la capacité d'étudier comment leurs utilisateurs partagent des informations.

« Alors que les gens du monde entier se tournent de plus en plus vers les réseaux sociaux comme principale source d'actualités et d'informations, la lutte contre la désinformation nécessite une évaluation fondée de l'impact relatif des différents modes de diffusion, " Menczer a déclaré. "Ce travail confirme que les robots jouent un rôle dans le problème et suggère que leur réduction pourrait améliorer la situation."

Pour explorer les messages électoraux actuellement partagés sur Twitter, Le groupe de recherche de Menczer a également récemment lancé un outil pour mesurer le "Bot Electioneering Volume". Créé par IU Ph.D. étudiants, le programme affiche le niveau d'activité des bots autour de conversations électorales spécifiques, ainsi que les sujets, les noms d'utilisateur et les hashtags qu'ils poussent actuellement.