Les médias sociaux peuvent exposer les utilisateurs à la désinformation, y compris les fausses nouvelles – des reportages contenant des informations intentionnellement fausses. En réalité, lors de l'élection présidentielle américaine de 2016, les fausses nouvelles ont attiré plus de monde que les vraies nouvelles, selon une analyse de BuzzFeed News.

De nombreuses méthodes de deep learning existent actuellement pour détecter les fake news, mais ces méthodes sont incapables d'expliquer pourquoi il est reconnu comme tel. Maintenant, une équipe de chercheurs de Penn State et de l'Arizona State s'efforce d'expliquer pourquoi toute fausse nouvelle est détectée comme fausse.

Les récentes découvertes de l'équipe seront présentées à l'Association for Computing Machinery (ACM)'s Knowledge Discovery and Data Mining (KDD), une conférence phare sur le data mining, tenue du 4 au 8 août à Anchorage, Alaska.

"La détection est une chose, mais comment le présenter à l'utilisateur pour expliquer pourquoi c'est faux est plus difficile, " a déclaré Dongwon Lee, professeur agrégé au Penn State College of Information Sciences and Technology et chercheur sur le projet. "Si nous ne fournissons pas une bonne explication, cela a un impact limité pour limiter la diffusion de la désinformation parce que les gens ne l'accepteront pas."

Dans leur étude, les chercheurs ont construit un cadre de détection de fausses informations explicable, qu'ils appellent dEFEND (Explainable FakE News Detection). Le cadre se compose de trois composants :(1) un encodeur de contenu d'actualités, détecter les styles de langage opiniâtres et sensationnels que l'on trouve couramment dans les fausses nouvelles ; (2) un encodeur de commentaire utilisateur, détecter des activités telles que des opinions sceptiques et des réactions sensationnelles dans les commentaires sur les nouvelles ; et (3) une phrase-commentaire, composante de co-attention, qui détecte les phrases dans les reportages et les commentaires des utilisateurs qui peuvent expliquer pourquoi une information est fausse.

Le nouvel algorithme de détection conçu et développé dans cette nouvelle approche a surpassé sept autres méthodes de pointe pour détecter les fausses nouvelles, selon les chercheurs.

« Parmi les commentaires des utilisateurs, nous pouvons identifier l'explication la plus efficace pour expliquer pourquoi cette [nouvelle qu'ils lisent] est une fausse nouvelle, " a expliqué Lee. " Certains utilisateurs ont exprimé leur mécontentement mais d'autres fournissent des preuves particulières, comme un lien vers un site Web de vérification des faits ou vers un article d'actualité authentique. Ces techniques peuvent simultanément trouver de telles preuves et les présenter à l'utilisateur comme une explication potentielle."

Il ajouta, « La démocratie [aux États-Unis] telle que nous la connaissons repose sur le principe du partage libre de ses idées et de ses opinions. Si nous ne pouvons pas faire confiance à ce qui a été dit dans les médias, et commencez à soupçonner qu'il peut être faux, cela pourrait saper tout un écosystème de démocratie. En tant que tel, cette recherche a un impact sociétal important et énorme."

Les chercheurs travaillent sur un prototype du système, qu'ils espèrent partager fin 2019, afin que d'autres puissent utiliser l'outil pour détecter les fausses nouvelles et mieux les comprendre.

« La détection précoce des fausses nouvelles est un autre problème important, " a déclaré Suhang Wang, professeur assistant au Collège de l'IST et collaborateur sur le projet. "Quand des [fausses] nouvelles sortent, en quelques heures, nous voulons le détecter. Une fois les fausses nouvelles diffusées, le mal est déjà fait. Il est important de le détecter et de le réduire le plus tôt possible."