Des chercheurs de l'Université de Notre Dame utilisent l'intelligence artificielle pour développer un système d'alerte précoce qui identifiera les images manipulées, deepfake vidéos et désinformation en ligne. Le projet est un effort pour lutter contre la montée des campagnes coordonnées sur les réseaux sociaux pour inciter à la violence, semer la discorde et menacer l'intégrité des élections démocratiques.

L'évolutif, système automatisé utilise la récupération d'images basée sur le contenu et applique des techniques basées sur la vision par ordinateur pour déraciner les mèmes politiques de plusieurs réseaux sociaux.

"Les mèmes sont faciles à créer et encore plus faciles à partager, " a déclaré Tim Weninger, professeur agrégé au Département d'informatique et de génie de Notre Dame. "Quand il s'agit de mèmes politiques, ceux-ci peuvent être utilisés pour aider à faire sortir le vote, mais ils peuvent également être utilisés pour diffuser des informations inexactes et causer des dommages. »

Weninger, avec Walter Scheirer, professeur adjoint au Département d'informatique et de génie de Notre Dame, et les membres de l'équipe de recherche ont collecté plus de deux millions d'images et de contenu provenant de diverses sources sur Twitter et Instagram liés aux élections générales de 2019 en Indonésie. Les résultats de cette élection, dans lequel le penchant à gauche, le centriste sortant a obtenu la majorité des voix contre le conservateur, candidat populiste, a déclenché une vague de protestations violentes qui ont fait huit morts et des centaines de blessés. Leur étude a révélé des campagnes à la fois spontanées et coordonnées dans le but d'influencer les élections et d'inciter à la violence.

Ces campagnes consistaient en des images manipulées présentant de fausses déclarations et de fausses déclarations d'incidents, des logos appartenant à des sources d'information légitimes sont utilisés sur des reportages et des mèmes fabriqués dans le but de provoquer les citoyens et les partisans des deux parties.

Alors que les ramifications de telles campagnes étaient évidentes dans le cas des élections générales indonésiennes, la menace d'élections démocratiques en Occident existe déjà. L'équipe de recherche de Notre Dame, composé d'experts en criminalistique numérique et de spécialistes des études sur la paix, ont déclaré qu'ils développaient le système pour signaler les contenus manipulés afin de prévenir la violence, et pour avertir les journalistes ou les observateurs électoraux des menaces potentielles en temps réel.

Le système, qui est en phase de recherche et développement, serait évolutif pour fournir aux utilisateurs des options personnalisées pour surveiller le contenu. Bien que de nombreux défis demeurent, tels que la détermination d'un moyen optimal d'augmenter l'ingestion et le traitement des données pour un délai d'exécution rapide, Scheirer a déclaré que le système est actuellement en cours d'évaluation pour la transition vers une utilisation opérationnelle.

L'évolution n'est pas en reste en ce qui concerne la possibilité de surveiller les élections générales de 2020 aux États-Unis, il a dit, et leur équipe collecte déjà des données pertinentes.

"L'ère de la désinformation est arrivée, " a déclaré Scheirer. "Un deepfake remplaçant des acteurs dans un film populaire peut sembler amusant et léger, mais imaginez une vidéo ou un mème créé dans le seul but de dresser un leader mondial contre un autre - en disant des mots qu'ils n'ont pas vraiment dit. Imaginez à quelle vitesse ce contenu pourrait être partagé et diffusé sur toutes les plateformes. Considérez les conséquences de ces actions."