Il y a plus d'une décennie, L'analyste d'Internet et spécialiste des nouveaux médias Clay Shirky a déclaré :« La seule vraie façon de mettre fin au spam est de fermer la communication par e-mail. La fermeture d'Internet sera-t-elle le seul moyen de mettre fin à la propagande deepfake en 2020 ?

Aujourd'hui, n'importe qui peut créer ses propres fausses nouvelles et les casser. La propagande en ligne est plus trompeuse et manipulatrice que jamais.

Deepfakes, une forme spécifique de désinformation qui utilise des algorithmes d'apprentissage automatique pour créer de l'audio et de la vidéo de vraies personnes disant et faisant des choses qu'elles n'ont jamais dites ou faites, évoluent rapidement vers une indiscernable de la réalité.

Détecter la désinformation alimentée par des utilisations contraires à l'éthique des médias numériques, big data et intelligence artificielle, et leur diffusion sur les réseaux sociaux, est de la plus haute urgence.

Les pays doivent éduquer et équiper leurs citoyens. Les éducateurs sont également confrontés à de réels défis pour aider les jeunes à développer des yeux d'aigle pour les deepfakes. Si les jeunes manquent de confiance pour trouver et évaluer des informations publiques fiables, leur motivation à participer ou à s'appuyer sur nos structures démocratiques sera de plus en plus menacée.

Saper la démocratie

Il est désormais possible de générer une vidéo d'une personne parlant et faisant des expressions ordinaires à partir de quelques images ou même d'une seule image du visage de cette personne. Les applications d'échange de visage telles que FaceApp et les applications de synchronisation labiale telles que Dubsmash sont des exemples d'outils de deepfake de base accessibles et conviviaux que les gens peuvent utiliser sans aucune expérience de programmation ou de codage.

Bien que l'utilisation de cette technologie puisse ravir ou étourdir les téléspectateurs pour ses représentations expertes dans les industries du divertissement et du jeu, le visage sinistre des deepfakes est une menace sérieuse à la fois pour la sécurité des personnes et pour la démocratie.

Le potentiel de Deepfakes à être utilisé comme une arme augmente de manière alarmante et de nombreux dommages peuvent être anticipés en fonction de la capacité des personnes à créer du contenu explicite sans le consentement des autres.

On s'attend à ce que les gens utilisent des deepfakes pour faire du cyberharcèlement, détruire les réputations, chantage, propager des discours de haine, inciter à la violence, perturber les processus démocratiques, diffuser de la désinformation à des publics ciblés et commettre des actes de cybercriminalité et des fraudes.

Détection de deepfake

Des acteurs clés se sont aventurés à trouver une réponse aux menaces deepfake.

Facebook a annoncé le 6 janvier qu'il "renforcerait sa politique à l'égard des vidéos manipulées trompeuses qui ont été identifiées comme des deepfakes". La société dit qu'elle supprimera les médias manipulés qui ont été "édités ou synthétisés - au-delà des ajustements de clarté ou de qualité - d'une manière qui n'est pas apparente pour une personne moyenne" et si les médias sont "le produit de l'intelligence artificielle ou de l'apprentissage automatique qui fusionne , remplace ou superpose du contenu sur une vidéo, le faisant paraître authentique."

La nouvelle fait suite au "deepfake challenge" de Facebook, " qui vise à concevoir de nouveaux outils de détection de contenu multimédia manipulé. Le challenge est soutenu par Microsoft, un consortium sur l'intelligence artificielle et un fonds de 10 millions de dollars.

Fin octobre, Le PDG de Facebook, Mark Zuckerberg, a témoigné lors d'une audience du comité des services financiers de la Chambre des représentants des États-Unis à Washington sur les plans de la société en matière de crypto-monnaie, où Zuckerberg a été confronté à des questions sur ce que l'entreprise fait pour empêcher les deepfakes.

La Defense Advanced Research Projects Agency (DARPA) du département américain de la Défense travaille sur l'utilisation de types spécifiques d'algorithmes pour évaluer l'intégrité des médias visuels numériques.

Certains chercheurs discutent de l'utilisation de réseaux de neurones convolutifs - un ensemble d'algorithmes qui reproduisent vaguement le cerveau humain, conçu pour analyser les images visuelles et reconnaître les modèles - pour détecter les incohérences entre les multiples images dans les deepfakes. D'autres proposent des algorithmes pour détecter des visages entièrement générés.

Hani Farid, un expert en criminalistique numérique et l'une des principales autorités en matière de détection de fausses photos, et son étudiant Shruti Agarwal à l'Université de Californie, Berkeley développe un logiciel qui utilise les caractéristiques subtiles de la façon dont une personne parle pour distinguer cette personne de la fausse version.

Farid collabore également très étroitement avec le pionnier du deepfake Hao Li pour faire face au problème de "la tromperie de plus en plus transparente".

Pays YouTube

Et si on se réveillait demain avec un deepfake de Greta Thunberg, Temps Personnalité de l'année 2019 du magazine, accuser une organisation spécifique d'être le principal catalyseur du changement climatique ? Des jeunes seraient-ils sceptiques à l'égard de l'information?

Nous vivons dans une ère numérique où de nombreuses personnes s'attendent à ce que chaque réponse soit trouvée via une recherche Google, une vidéo YouTube ou Vimeo ou une conférence TED. Près de 100 pour cent des jeunes Canadiens âgés de 15 à 24 ans utilisent Internet quotidiennement. La plupart suivent les actualités et les actualités via des plateformes de médias sociaux telles que Facebook, Twitter et Instagram.

En 2017, 90 pour cent des Canadiens âgés de 18 à 24 ans étaient des utilisateurs actifs de YouTube.

Selon Statista, une entreprise qui fournit des données de marché et de consommation, "à partir de mai 2019, plus de 500 heures de vidéo ont été téléchargées sur YouTube chaque minute, " équivalant à " environ 30, 000 heures de contenu nouvellement téléchargé par heure. » La société rapporte qu'entre 2014 et 2019, « le nombre d'heures de contenu vidéo téléchargées toutes les 60 secondes a augmenté d'environ 40 %.

De nombreux utilisateurs de médias sociaux d'aujourd'hui âgés de 18 à 24 ans reconnaissent les agendas et les algorithmes qui se cachent derrière les publications qui s'affichent sur leurs murs. Dans mon doctorat. recherche de thèse, J'ai exploré comment 42 participants de ce groupe d'âge comprenaient les réfugiés dans un contexte où les idées sur les réfugiés étaient profondément influencées par la propagande des médias sociaux, fausses nouvelles et désinformation. J'ai découvert que beaucoup avaient envie de devenir des influenceurs et de perturber les commentaires publics et les messages générés par les médias d'une manière qui résonne avec les campagnes de plaidoyer ou d'activisme menées aujourd'hui par les jeunes.

Le phénomène deepfake est un nouveau défi critique qu'ils, et tous les participants de nos démocraties, maintenant face.

Éducation à la résilience

Au Canada, Journalistes pour les droits de l'homme a annoncé un nouveau programme, financé par Patrimoine Canada, former des journalistes et améliorer « la préparation des citoyens contre la manipulation et la désinformation en ligne ».

Les éducateurs peuvent jouer un rôle clé en encourageant la jeunesse à détecter les deepfakes et à réduire leur influence. L'un des défis consiste à faire en sorte que les jeunes acquièrent des compétences essentielles en matière d'éducation aux médias tout en continuant à explorer des ressources précieuses en ligne et à renforcer leurs capacités et leurs connaissances pour participer aux structures démocratiques.

En suivant les étapes que j'ai identifiées dans le modèle « Préparez-vous à agir contre la propagande sur les réseaux sociaux » — en commençant par expliquer les positions sur une question controversée ciblée par la propagande sur les réseaux sociaux — les éducateurs peuvent aider les jeunes à discuter de la façon dont ils perçoivent et reconnaissent les deepfakes. Ils peuvent explorer les origines du contenu, qui est-il ciblé, la réaction qu'il essaie d'obtenir et qui est derrière.

Ils peuvent également discuter du rôle et de la responsabilité des jeunes pour réagir et s'opposer à la désinformation et aux stratégies numériques potentielles à poursuivre dans ce processus. Une génération bien équipée de citoyens numériques pourrait être notre meilleur pari.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.