Les plateformes de médias sociaux sont devenues plus que de simples outils de communication. Ils sont devenus des arènes animées où la vérité et le mensonge se heurtent. Parmi ces plateformes, X s’impose comme un champ de bataille de premier plan. C'est un endroit où les campagnes de désinformation prospèrent, perpétuées par des armées de robots alimentés par l'IA et programmés pour influencer l'opinion publique et manipuler les récits.

Les robots basés sur l'IA sont des comptes automatisés conçus pour imiter le comportement humain. Les robots sur les réseaux sociaux, les plateformes de chat et l’IA conversationnelle font partie intégrante de la vie moderne. Ils sont nécessaires pour que les applications d'IA fonctionnent efficacement, par exemple.

Mais certains robots sont conçus dans un but malveillant. Étonnamment, les robots constituent une partie importante de la base d'utilisateurs de X. En 2017, on estimait qu'il y avait environ 23 millions de robots sociaux, représentant 8,5 % du total des utilisateurs. Plus des deux tiers des tweets provenaient de ces comptes automatisés, amplifiant la portée de la désinformation et brouillant les eaux du discours public.

Comment fonctionnent les robots

L’influence sociale est désormais un bien qui peut être acquis en achetant des robots. Les entreprises vendent de faux abonnés pour augmenter artificiellement la popularité des comptes. Ces adeptes sont disponibles à des prix remarquablement bas, avec de nombreuses célébrités parmi les acheteurs.

Au cours de nos recherches, par exemple, des collègues et moi avons détecté un robot qui avait publié 100 tweets proposant des abonnés à vendre.

À l’aide de méthodologies d’IA et d’une approche théorique appelée théorie des acteurs-réseaux, mes collègues et moi avons analysé la façon dont les robots sociaux malveillants manipulent les médias sociaux, influençant ce que les gens pensent et comment ils agissent avec une efficacité alarmante. Nous pouvons déterminer si les fausses nouvelles ont été générées par un humain ou un robot avec un taux de précision de 79,7 %. Il est crucial de comprendre comment les humains et l'IA diffusent la désinformation afin de comprendre comment les humains exploitent l'IA pour diffuser la désinformation.

Pour prendre un exemple, nous avons examiné l'activité d'un compte nommé "True Trumpers" sur Twitter.

Le compte a été créé en août 2017, n'a ni abonnés ni photo de profil, mais avait, au moment de la recherche, publié 4 423 tweets. Celles-ci comprenaient une série d’histoires entièrement fabriquées. Il convient de noter que ce bot est originaire d'un pays d'Europe de l'Est.

Des recherches comme celle-ci ont incité X à restreindre les activités des robots sociaux. En réponse à la menace de manipulation des médias sociaux, X a mis en place des limites de lecture temporaires pour limiter le grattage et la manipulation des données. Les comptes vérifiés sont limités à la lecture de 6 000 publications par jour, tandis que les comptes non vérifiés peuvent en lire 600 par jour. Il s'agit d'une nouvelle mise à jour, nous ne savons donc pas encore si elle a été efficace.

Pouvons-nous nous protéger ?

Cependant, il incombe en fin de compte aux utilisateurs de faire preuve de prudence et de discerner le vrai du faux, en particulier en période électorale. En évaluant de manière critique les informations et en vérifiant les sources, les utilisateurs peuvent jouer un rôle dans la protection de l’intégrité des processus démocratiques contre les assauts des robots et les campagnes de désinformation sur X. Chaque utilisateur est, en fait, un défenseur de première ligne de la vérité et de la démocratie. La vigilance, la pensée critique et une bonne dose de scepticisme sont des armures essentielles.

Avec les réseaux sociaux, il est important que les utilisateurs comprennent les stratégies employées par les comptes malveillants.

Les acteurs malveillants utilisent souvent des réseaux de robots pour amplifier de faux récits, manipuler les tendances et diffuser rapidement des informations erronées. Les utilisateurs doivent faire preuve de prudence lorsqu'ils rencontrent des comptes présentant un comportement suspect, tel qu'une publication excessive ou des messages répétitifs.

La désinformation est également fréquemment propagée via des sites Web dédiés aux fausses nouvelles. Ceux-ci sont conçus pour imiter des sources d’information crédibles. Il est conseillé aux utilisateurs de vérifier l'authenticité des sources d'information en croisant les informations avec des sources fiables et en consultant des organismes de vérification des faits.

La conscience de soi est une autre forme de protection, notamment contre les tactiques d’ingénierie sociale. La manipulation psychologique est souvent déployée pour inciter les utilisateurs à croire des mensonges ou à s'engager dans certaines actions. Les utilisateurs doivent rester vigilants et évaluer de manière critique le contenu qu'ils rencontrent, en particulier pendant les périodes de sensibilité accrue telles que les élections.

En restant informés, en participant à un débat civil et en plaidant pour la transparence et la responsabilité, nous pouvons collectivement façonner un écosystème numérique qui favorise la confiance, la transparence et une prise de décision éclairée.