Les chercheurs en ingénierie de Dartmouth ont développé une nouvelle approche pour détecter l'intention d'un locuteur d'induire en erreur. Le cadre de la démarche, qui pourraient être développées pour extraire l'opinion de « fake news, " entre autres utilisations, a récemment été publié dans le cadre d'un article dans Journal de l'intelligence artificielle expérimentale et théorique.

Bien que des études antérieures aient examiné la tromperie, c'est peut-être la première étude à examiner l'intention d'un locuteur. Les chercheurs postulent que si une histoire vraie peut être manipulée sous diverses formes trompeuses, l'intention, plutôt que le contenu de la communication, détermine si la communication est trompeuse ou non. Par exemple, l'orateur pourrait être mal informé ou faire une fausse hypothèse, ce qui signifie que l'orateur a fait une erreur involontaire mais n'a pas tenté de tromper.

"L'intention trompeuse d'induire les auditeurs en erreur constitue une menace bien plus grande que les erreurs involontaires, " a déclaré Eugène Santos Jr., co-auteur et professeur d'ingénierie à la Thayer School of Engineering de Dartmouth. "Au meilleur de nos connaissances, notre algorithme est la seule méthode qui détecte la tromperie et en même temps discrimine les actes malveillants des actes bénins."

Les chercheurs ont développé une approche unique et un algorithme résultant qui peuvent distinguer la tromperie de toutes les communications bénignes en récupérant les caractéristiques universelles du raisonnement trompeur. Cependant, le cadre est actuellement limité par la quantité de données nécessaires pour mesurer l'écart d'un locuteur par rapport à ses arguments passés ; l'étude a utilisé les données d'une enquête menée en 2009 auprès de 100 participants sur leurs opinions sur des sujets controversés, ainsi qu'un ensemble de données 2011 de 800 avis réels et 400 avis fictifs des mêmes 20 hôtels.

Santos pense que le cadre pourrait être développé davantage pour aider les lecteurs à distinguer et à examiner de près l'intention de « fake news, " permettant au lecteur de déterminer si un argument logique est utilisé ou si l'opinion joue un rôle important. Dans d'autres études, Santos espère examiner l'effet d'entraînement de la désinformation, y compris ses impacts.

Dans l'étude, les chercheurs utilisent le film populaire Ocean's Eleven de 2001 pour illustrer comment le cadre peut être utilisé pour examiner les arguments d'un trompeur, qui en réalité peut aller à l'encontre de ses vraies croyances, résultant en une attente finale falsifiée. Par exemple, dans le film, un groupe de voleurs fait irruption dans une chambre forte de banque tout en révélant au propriétaire qu'il est en train de se faire voler afin de négocier. Les voleurs fournissent au propriétaire de fausses informations, à savoir qu'ils ne prendront que la moitié de l'argent si le propriétaire n'appelle pas la police. Cependant, les voleurs s'attendent à ce que le propriétaire appelle la police, ce qu'il fait, les voleurs se déguisent alors en policiers pour voler l'intégralité du contenu du coffre-fort.

Parce que Ocean's Eleven est un film scénarisé, les téléspectateurs peuvent être sûrs de l'intention des voleurs - de voler tout l'argent - et de la façon dont cela entre en conflit avec ce qu'ils disent au propriétaire - qu'ils n'en prendront que la moitié. Cela illustre comment les voleurs ont pu tromper le propriétaire et anticiper ses actions du fait que les voleurs et le propriétaire avaient des informations différentes et donc percevaient la scène différemment.

"Les gens s'attendent à ce que les choses fonctionnent d'une certaine manière, " dit Santos, "tout comme les voleurs savaient que le propriétaire appellerait la police lorsqu'il découvrirait qu'il était en train de se faire voler. Alors, dans ce scénario, les voleurs ont utilisé cette connaissance pour convaincre le propriétaire d'arriver à une certaine conclusion et de suivre le chemin standard des attentes. Ils ont forcé leur intention de tromperie afin que le propriétaire parvienne aux conclusions souhaitées par les voleurs. »

Dans la culture populaire, les comportements verbaux et non verbaux tels que les expressions faciales sont souvent utilisés pour déterminer si quelqu'un ment, mais les co-auteurs notent que ces indices ne sont pas toujours fiables.

"Nous avons constaté que les modèles basés sur l'intention de raisonnement sont plus fiables que les changements verbaux et les différences personnelles, et donc mieux distinguer les mensonges intentionnels des autres types de distorsion de l'information, " a déclaré le co-auteur Deqing Li, qui a travaillé sur l'article dans le cadre de son doctorat. thèse à Thayer.