Quand il s'agit de vraies fausses nouvelles, le genre de désinformation que la Russie a déployée lors des élections de 2016, « devenir viral » n'est pas seulement une métaphore.

Utiliser les outils de modélisation de la propagation des maladies infectieuses, Les chercheurs en cyber-risque de Stanford Engineering analysent la propagation de fausses nouvelles comme s'il s'agissait d'une souche d'Ebola. "Nous voulons trouver le moyen le plus efficace de couper les chaînes de transmission, corriger si possible les informations et sensibiliser les cibles les plus vulnérables, " dit Elisabeth Paté-Cornell, professeur de sciences de gestion et d'ingénierie. Elle s'est longtemps spécialisée dans l'analyse des risques et la cybersécurité et supervise les recherches en collaboration avec Travis I. Trammell, un doctorant à Stanford. Voici quelques-uns des principaux apprentissages :

Comment les fausses nouvelles se reproduisent-elles sur les réseaux sociaux ?

Les chercheurs ont adapté un modèle pour comprendre les maladies qui peuvent infecter une personne plus d'une fois. Il examine combien de personnes sont « sensibles » à la maladie ou, dans ce cas, susceptibles de croire à une fausse nouvelle. Il examine également combien de personnes y ont été exposées, et combien sont réellement « infectés » et croient à l'histoire ; et combien de personnes sont susceptibles de diffuser une fausse nouvelle.

Tout comme un virus, les chercheurs disent qu'au fil du temps, être exposé à de multiples souches de fausses nouvelles peut user la résistance d'une personne et la rendre de plus en plus vulnérable. Plus une personne est exposée à une fausse nouvelle, surtout s'il provient d'une source influente, plus ils sont susceptibles d'être persuadés ou infectés.

Qu'est-ce qui fait qu'il se propage plus rapidement?

La soi-disant « loi du pouvoir » des médias sociaux, un modèle bien documenté dans les réseaux sociaux, soutient que les messages se répliquent le plus rapidement s'ils ciblent un nombre relativement restreint de personnes influentes avec un grand nombre d'abonnés.

Les chercheurs examinent également l'efficacité relative des trolls par rapport aux robots. Trammell dit bots, qui sont des programmes automatisés qui se font passer pour des personnes, ont tendance à être particulièrement efficaces pour diffuser un grand nombre de messages hautement émotionnels avec peu de contenu informatif. Pensez ici à un message avec l'image d'Hillary Clinton derrière les barreaux et les mots "Lock Her Up!" Ce genre de message se répandra rapidement dans les chambres d'écho peuplées de ceux qui sont déjà d'accord avec le sentiment de base. Les bots ont un pouvoir considérable pour enflammer les personnes qui partagent déjà les mêmes idées, bien qu'ils puissent être plus faciles à détecter et à bloquer que les trolls.

Par contre, les trolls sont généralement de vraies personnes qui diffusent des histoires et des mèmes provocateurs. Les trolls peuvent mieux persuader les gens qui sont moins convaincus et veulent plus d'informations.

Quels types de personnes sont les plus sensibles ?

Paté-Cornell et Trammell disent qu'il existe de nombreuses preuves que les personnes âgées, les jeunes et les moins instruits sont particulièrement sensibles aux fausses nouvelles. Mais au sens le plus large, ce sont des partisans aux extrêmes politiques, qu'ils soient libéraux ou conservateurs, qui sont le plus susceptibles de croire à une histoire fausse en partie à cause d'un biais de confirmation - la tendance en chacun de nous à croire des histoires qui renforcent nos convictions - et plus ces convictions sont fortes, plus la personne ressent fortement l'attraction du biais de confirmation.

La vaccination est-elle possible ?

Paté-Cornell et Trammell disent que, un peu comme le crime ordinaire, la désinformation ne disparaîtra jamais. Mais en apprenant comment il se propage à travers les médias sociaux, les chercheurs disent qu'il est possible de riposter. Les plateformes de médias sociaux pourraient devenir beaucoup plus rapides pour repérer les contenus suspects. Ils pourraient alors joindre des avertissements - une forme d'inoculation - ou ils pourraient en mettre davantage en quarantaine.

Le défi, ils disent, est que la protection a des coûts – des coûts financiers ainsi qu'une commodité réduite et des limitations à la liberté d'expression. Paté-Cornell dit que les dangers des fausses nouvelles doivent être analysés comme un risque de gestion stratégique similaire à la façon dont nous avons traditionnellement analysé les risques posés par les cyberattaques visant à désactiver les infrastructures critiques. "Il s'agit de savoir comment gérer au mieux nos ressources afin de minimiser le risque, " dit-elle. " Combien êtes-vous prêt à dépenser, et quel niveau de risque sommes-nous prêts à accepter ? »

Que réserve l'avenir?

Les fausses nouvelles sont déjà un problème de sécurité nationale. Mais Paté-Cornell et Trammell prédisent que l'intelligence artificielle va dynamiser les fausses nouvelles dans les années à venir. L'IA permettra de cibler beaucoup plus facilement les personnes avec de fausses informations ou de fausses vidéos, des vidéos qui semblent réelles mais qui ont été fabriquées en tout ou en partie, qui sont finement adaptées à ce qu'un spectateur sensible est susceptible d'accepter et peut-être de diffuser. L'IA pourrait également faciliter la création d'armées de robots plus influents qui semblent partager le contexte social d'une cible, ville natale, intérêts personnels ou croyances religieuses. De tels types d'hyper-ciblage rendraient les messages beaucoup plus persuasifs. L'IA montre également un grand potentiel pour contrer ce fléau en identifiant les faux contenus sous toutes leurs formes, mais seul le temps nous dira qui l'emporte dans cette nouvelle course aux armements.