Le chiffre ahurissant de plus de trois milliards de faux comptes bloqués par Facebook sur une période de six mois met en évidence les défis auxquels sont confrontés les réseaux sociaux pour freiner les comptes automatisés, ou des robots, et d'autres efforts infâmes pour manipuler les plates-formes.

Voici quatre questions clés sur les faux comptes :

Comment tant de faux comptes sont-ils apparus ?

Facebook a déclaré cette semaine avoir "désactivé" 1,2 milliard de faux comptes au cours des trois derniers mois de 2018 et 2,19 milliards au premier trimestre de 2019.

La plupart des faux comptes de médias sociaux sont des « bots, " créé par des programmes automatisés pour publier certains types d'informations - une violation des conditions d'utilisation de Facebook et une partie d'un effort pour manipuler les conversations sociales. Des acteurs sophistiqués peuvent créer des millions de comptes en utilisant le même programme.

Facebook a déclaré que son intelligence artificielle détecte la plupart de ces efforts et désactive les comptes avant qu'ils ne puissent publier sur la plate-forme. Toujours, il reconnaît qu'environ cinq pour cent des plus de deux milliards de comptes Facebook actifs sont probablement faux.

Quel est le mal des faux comptes ?

Les faux comptes peuvent être utilisés pour amplifier la popularité ou l'aversion d'une personne ou d'un mouvement, déformant ainsi l'opinion des utilisateurs sur le véritable sentiment du public.

Les bots ont joué un rôle disproportionné dans la diffusion de fausses informations sur les réseaux sociaux avant les élections américaines de 2016, selon les chercheurs. Des acteurs malveillants utilisent ce genre de faux comptes pour semer la méfiance et la division sociale dans de nombreuses régions du monde, dans certains cas, fomenter la violence contre des groupes ou des individus.

Les bots "ne se contentent pas de manipuler la conversation, ils construisent des groupes et des groupes de passerelle, " a déclaré Kathleen Carley, informaticienne de l'Université Carnegie Mellon, qui a fait des recherches sur les robots des médias sociaux.

"Ils peuvent faire croire aux gens d'un groupe qu'ils pensent la même chose que les gens d'un autre groupe, et ce faisant, ils construisent des chambres d'écho."

Facebook affirme que ses outils d'intelligence artificielle peuvent identifier et bloquer les faux comptes au fur et à mesure de leur création, et donc avant qu'ils ne puissent publier de fausses informations.

"Ces systèmes utilisent une combinaison de signaux tels que des schémas d'utilisation d'adresses e-mail suspectes, actions suspectes, ou d'autres signaux précédemment associés à d'autres faux comptes que nous avons supprimés, ", a déclaré le vice-président de Facebook Analytics Alex Schultz dans un article de blog.

Facebook a-t-il le contrôle de la situation ?

Les chiffres du rapport de transparence de Facebook suggèrent que Facebook agit de manière agressive sur les faux comptes, dit Onur Varol, chercheur postdoctoral au Center for Complex Network Research de la Northeastern University.

"Trois milliards, c'est un grand nombre - cela montre qu'ils ne veulent manquer aucun faux compte. Mais ils sont prêts à prendre le risque" de désactiver certains comptes légitimes, dit Varol.

Les utilisateurs légitimes peuvent être incommodés, mais peuvent généralement récupérer leurs comptes, a noté le chercheur.

"Mon sentiment est que Facebook fait de sérieux efforts" pour lutter contre les faux comptes, il ajouta.

Mais les nouveaux bots deviennent de plus en plus sophistiqués et plus difficiles à détecter, parce qu'ils peuvent utiliser le langage presque aussi bien que les humains, selon Carley.

"Facebook a peut-être résolu la bataille d'hier, mais la nature de ces choses change si rapidement qu'elles n'obtiennent peut-être pas les nouvelles, " elle a dit.

Varol a accepté, notant qu'« il existe des robots qui comprennent le langage naturel et peuvent répondre aux gens, et c'est pourquoi il est important de poursuivre la recherche."

Dois-je m'inquiéter des bots et des faux comptes ?

De nombreux utilisateurs ne peuvent pas faire la différence entre un vrai et un faux compte, disent les chercheurs. Facebook et Twitter ont intensifié leurs efforts pour identifier et éliminer les faux comptes, et certains outils publics tels que Botometer développé par Varol et d'autres chercheurs peuvent aider à déterminer la probabilité de faux comptes Twitter et abonnés.

"Si vous utilisez Facebook pour communiquer avec votre famille et vos amis, ne vous inquiétez pas beaucoup, " a déclaré Filippo Menczer, un informaticien qui fait des recherches sur les médias sociaux à l'Université de l'Indiana.

"Si vous l'utilisez pour accéder aux actualités et les partager avec vos amis, vous devez être prudent."

Menczer a déclaré que de nombreux utilisateurs de Facebook accordent peu d'attention à la source du matériel et peuvent finir par partager des informations fausses ou trompeuses.

"Tout le monde pense qu'ils ne peuvent pas être manipulés mais nous sommes tous vulnérables, " il a dit.

Avec les robots, les humains représentent un élément clé de la chaîne de désinformation, disent les chercheurs.

"La plupart des fausses informations ne proviennent pas de bots, " a déclaré Carley. " La plupart proviennent de blogs et les robots les rediffusent " pour amplifier la désinformation.

Le chef de Facebook, Mark Zuckerberg, a déclaré que Facebook cherchait à éliminer les incitations financières des faux comptes.

« Une grande partie du contenu préjudiciable que nous voyons, y compris la désinformation, sont en fait à motivation commerciale, " Zuckerberg a déclaré aux journalistes. " L'une des meilleures tactiques consiste donc à supprimer les incitations à créer de faux comptes en amont, ce qui limite le contenu créé en aval."

© 2019 AFP