Il a le potentiel de ruiner les relations, réputations et notre réalité en ligne. La technologie d'intelligence artificielle "Deepfake" promet de créer des vidéos falsifiées si réalistes qu'elles sont presque impossibles à distinguer de la réalité. Jusqu'à présent, il a principalement été utilisé pour créer des clips pornographiques modifiés mettant en vedette des visages de femmes célèbres, mais une fois les techniques perfectionnées, deepfake revenge porn prétendant montrer aux gens qui trompent leurs partenaires ne sera pas loin derrière.

Mais plus que de devenir un outil désagréable pour les harceleurs et les harceleurs, les deepfakes menacent de saper la confiance dans les institutions politiques et la société dans son ensemble. La Maison Blanche a récemment justifié l'interdiction temporaire d'un journaliste de ses conférences de presse en utilisant, semble-t-il, de véritables images accélérées d'un incident impliquant le journaliste. Imaginez les implications de voir des images ultra-réalistes mais artificielles de chefs de gouvernement planifiant des assassinats, Des PDG de connivence avec des agents étrangers ou un philanthrope de renom maltraitant des enfants.

Les soi-disant fausses nouvelles ont déjà accru le scepticisme de nombreuses personnes envers les politiciens, journalistes et autres personnalités publiques. Il devient si facile de créer des scénarios entièrement fictifs que nous ne pouvons plus faire confiance à aucune séquence vidéo pour argent comptant. Cela menace notre politique, systèmes juridiques et médiatiques, sans parler de nos relations personnelles. Nous devrons créer de nouvelles formes de consensus sur lesquelles fonder notre réalité sociale. De nouvelles façons de contrôler et de répartir le pouvoir—certaines politiques, certaines technologies - pourraient nous aider à atteindre cet objectif.

Faux scandales, faux politiciens

Les deepfakes font peur car ils permettent de récupérer l'image de n'importe qui, et remettre en question notre capacité à faire confiance à ce que nous voyons. Une utilisation évidente des deepfakes serait d'impliquer faussement les gens dans des scandales. Même s'il s'avère par la suite que les images incriminantes sont fausses, les dommages causés à la réputation de la victime peuvent être impossibles à réparer. Et les politiciens pouvaient modifier de vieilles images d'eux-mêmes pour donner l'impression qu'ils avaient toujours soutenu quelque chose qui était récemment devenu populaire, mettre à jour leurs positions en temps réel.

Il pourrait même y avoir des personnages publics entièrement imaginaires, original mais pas authentique. Pendant ce temps, les séquences vidéo pourraient devenir inutiles comme preuves devant les tribunaux. Les informations diffusées pourraient être réduites à des personnes se demandant si les clips étaient authentiques ou non, utilisant une IA toujours plus complexe pour tenter de détecter les deepfakes.

Mais la course aux armements qui existe déjà entre les créateurs de faux contenus et ceux qui détectent ou démystifient la désinformation (comme la « salle de guerre » de fausses nouvelles prévue par Facebook) cache un problème plus profond. La simple existence de deepfakes sape la confiance et la confiance, tout comme la possibilité qu'une élection ait été piratée remet en question la validité du résultat.

Alors que certaines personnes peuvent être dupées par des deepfakes, ce n'est pas le vrai problème. Ce qui est en jeu, c'est la structure sociale sous-jacente dans laquelle nous convenons tous qu'une certaine forme de vérité existe, et les réalités sociales qui reposent sur cette confiance. Il ne s'agit pas de la fin de la vérité, mais la fin de la croyance en la vérité – une société post-confiance. Dans le sillage d'une désinformation massive, même des personnalités publiques honnêtes seront facilement ignorées ou discréditées. Les organisations traditionnelles qui ont soutenu et permis le consensus – gouvernement, la presse - ne sera plus adapté à l'usage.

La confiance dans la blockchain

De nouvelles lois pour réglementer l'utilisation des deepfakes seront importantes pour les personnes qui en ont fait des vidéos préjudiciables. Mais la politique et la loi ne sauveront pas à elles seules nos systèmes de gouvernance. Nous devrons développer de nouvelles formes de consensus, de nouvelles manières de s'entendre sur des situations sociales basées sur des formes alternatives de confiance.

Une approche sera de décentraliser la confiance, de sorte que nous n'avons plus besoin de quelques institutions pour garantir l'authenticité des informations et que nous puissions plutôt nous appuyer sur plusieurs personnes ou organisations jouissant d'une bonne réputation. Une façon de le faire pourrait être d'utiliser la blockchain, la technologie qui alimente Bitcoin et d'autres crypto-monnaies.

Blockchain fonctionne en créant un grand livre public stocké sur plusieurs ordinateurs à travers le monde à la fois et rendu inviolable par cryptographie. Ses algorithmes permettent aux calculateurs de s'accorder sur la validité de toute modification apportée au grand livre, rendant beaucoup plus difficile l'enregistrement de fausses informations. De cette façon, la confiance est répartie entre tous les ordinateurs qui peuvent s'examiner, responsabilisation croissante.

Société plus démocratique

Nous pouvons également nous tourner vers des formes de gouvernement et de journalisme plus démocratiques. Par exemple, la démocratie liquide permet aux électeurs de voter directement sur chaque question ou d'attribuer temporairement leurs voix aux délégués d'une manière plus flexible et responsable que de céder le contrôle total à un seul parti pendant des années. Cela permettrait au public de se tourner vers des experts pour prendre des décisions à leur place si nécessaire, mais de voter rapidement contre les politiciens qui n'ont pas tenu compte de leurs points de vue ou ont agi de manière malhonnête, accroître la confiance et la légitimité dans le système politique.

Dans la presse, nous pourrions évoluer vers des reportages plus collaboratifs et démocratisés. Les journalistes traditionnels pourraient utiliser les aspects positifs des médias sociaux pour recueillir des informations à partir d'un éventail plus diversifié de sources. Ces contributeurs pourraient ensuite discuter et aider à scruter l'histoire pour construire un consensus, améliorer la réputation des médias.

Le problème avec tout système qui s'appuie sur la réputation d'individus clés pour établir la confiance est de savoir comment empêcher que cette réputation ne soit utilisée à mauvais escient ou frauduleusement endommagée. Des contrôles tels que la vérification du compte « coche bleue » de Twitter pour les personnalités publiques peuvent aider, mais de meilleures protections juridiques et techniques sont également nécessaires :des droits plus protégés à la vie privée, de meilleures réponses aux comportements antisociaux en ligne, et de meilleures technologies de protection de la vie privée intégrées dès la conception.

Les ramifications potentielles des deepfakes devraient servir d'appel à l'action dans la refonte des systèmes de confiance pour qu'ils soient plus ouverts, plus décentralisée et plus collective. Et il est maintenant temps de commencer à penser à un avenir différent pour la société.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.