Facebook dit qu'il interdit les vidéos "deepfake", les clips faux mais réalistes créés avec l'intelligence artificielle et des outils sophistiqués, alors qu'il intensifie ses efforts pour lutter contre la manipulation en ligne. Mais la politique laisse beaucoup de lacunes.

Le réseau social a déclaré lundi soir qu'il renforçait ses politiques pour supprimer les vidéos éditées ou synthétisées d'une manière qui n'est pas apparente pour la personne moyenne, et qui pourrait duper quelqu'un en lui faisant croire que le sujet de la vidéo a dit quelque chose qu'il n'a pas dit en fait.

Créé par l'intelligence artificielle ou le machine learning, les deepfakes combinent ou remplacent le contenu pour créer des images qui peuvent être presque impossibles à dire ne sont pas authentiques.

"Alors que ces vidéos sont encore rares sur internet, ils représentent un défi important pour notre industrie et notre société à mesure que leur utilisation augmente, " Vice-président de la gestion des politiques mondiales de Facebook, Monika Bickert, dit dans un article de blog.

Cependant, elle a dit que les nouvelles règles n'incluraient pas la parodie ou la satire, ou des clips édités juste pour changer l'ordre des mots. Les exceptions soulignent l'équilibre auquel Facebook et d'autres services de médias sociaux sont confrontés dans leur lutte pour arrêter la propagation de la désinformation en ligne et des « fausses nouvelles » tout en respectant la liberté d'expression et en repoussant les allégations de censure.

La société de technologie américaine a été aux prises avec la façon de gérer la montée des deepfakes après avoir été critiquée l'année dernière pour avoir refusé de supprimer une vidéo trafiquée de la présidente de la Chambre, Nancy Pelosi, qui bredouillait ses mots, qui a été vue plus de 3 millions de fois. Les experts ont déclaré que le clip grossièrement monté était plus un "faux bon marché" qu'un deepfake.

Puis, deux artistes ont posté de fausses images du PDG de Facebook, Mark Zuckerberg, le montrant jubilant de sa domination du monde par un seul homme. Facebook a également laissé ce clip en ligne. La société a déclaré à l'époque qu'aucune des deux vidéos n'enfreignait ses politiques.

Le problème des vidéos altérées devient de plus en plus urgent alors que les experts et les législateurs tentent de trouver un moyen d'empêcher l'utilisation de deepfakes pour interférer avec les élections présidentielles américaines de novembre.

La nouvelle politique est un « point de départ solide, " mais ne traite pas de problèmes plus larges, dit Sam Grégoire, directeur de programme chez Witness, une organisation à but non lucratif travaillant sur l'utilisation de la technologie vidéo pour les droits de l'homme.

"La réalité est qu'il n'y a pas beaucoup de deepfakes politiques en ce moment. Ce sont principalement des images sexuelles non consensuelles, " et le plus gros problème, ce sont les vidéos qui sont soit affichées sans contexte, soit légèrement modifiées, que certains ont surnommé « faux superficiels, ", a-t-il déclaré. Il s'agit notamment du clip de Pelosi ou de celui qui a fait le tour la semaine dernière du candidat démocrate à la présidentielle Joe Biden qui a été édité de manière sélective pour suggérer à tort qu'il avait fait des remarques racistes.

Grégoire, dont le groupe faisait partie de ceux qui ont fait part de leurs commentaires à Facebook pour la politique, a déclaré que même si les nouvelles règles semblaient solides sur le papier, il y a des questions sur l'efficacité de l'entreprise à découvrir des vidéos synthétiques.

Facebook a construit des algorithmes de détection de deepfake et peut également examiner le comportement d'un compte pour savoir s'il a l'intention de diffuser de la désinformation, ainsi l'entreprise aura un avantage sur les utilisateurs ou les journalistes pour les flairer, dit Grégoire.

Mais ces algorithmes n'ont pas été largement utilisés pour les deepfakes "dans la nature. C'est donc une question ouverte sur l'efficacité de la détection, " a-t-il dit. " C'est une sorte algorithmique de jeu du chat et de la souris, où les falsifications s'amélioreront parallèlement à la détection."

Facebook a dit que toutes les vidéos, deepfake ou pas, seront également supprimés s'ils violent les normes existantes en matière de nudité, violence graphique ou discours de haine. Ceux qui ne sont pas supprimés peuvent toujours être examinés par des vérificateurs de faits tiers indépendants et tout faux sera signalé comme tel aux personnes essayant de les partager ou de les voir, ce qui, selon Bickert, était une meilleure approche que de simplement les supprimer.

"Si nous supprimions simplement toutes les vidéos manipulées signalées par les vérificateurs de faits comme fausses, les vidéos seraient toujours disponibles ailleurs sur Internet ou dans l'écosystème des médias sociaux, " Bickert a dit. " En les laissant de côté et en les étiquetant comme faux, nous fournissons aux gens des informations et un contexte importants."

Twitter, qui a été un autre foyer de désinformation et de vidéos altérées, dit qu'il est « en train » de créer une politique pour « les médias synthétiques et manipulés, " qui inclurait des deepfakes et d'autres vidéos trafiquées. La société a demandé des commentaires du public sur la question. Les réponses qu'elle envisage incluent de mettre un avis à côté des tweets qui incluent du matériel manipulé. Les tweets peuvent également être supprimés s'ils sont trompeurs et pourraient causer un préjudice grave à quelqu'un.

Youtube, pendant ce temps, a une politique contre les "pratiques trompeuses" mais ne semble pas interdire spécifiquement les deepfakes. Google n'a pas immédiatement répondu à un message de commentaire mardi.

© 2020 La Presse Associée. Tous les droits sont réservés.