Facebook est en mode crise, mais l'entreprise peut prendre des mesures importantes pour se réparer – et la communauté mondiale qu'elle dit vouloir promouvoir. fondateur de Facebook, Le PDG et actionnaire majoritaire Mark Zuckerberg n'a pas besoin d'attendre que les gouvernements imposent des réglementations. Si lui et d'autres dirigeants de l'industrie le voulaient, ils pourraient apporter des changements significatifs assez rapidement.

Ce ne serait pas indolore, mais Facebook en particulier est déjà dans un monde blessé, face à des critiques pour avoir contribué aux troubles civils et aux troubles sectaires dans le monde, réponses tardives aux campagnes de désinformation, tromper les utilisateurs sur les politiques de traitement des données, et des efforts pour discréditer les critiques – sans parler d'une révolte naissante des employés.

Facebook, Twitter, Google et d'autres sociétés de médias sociaux causent des dommages à l'ensemble de la société. Mais ils ont tendance à décrire les problèmes comme beaucoup plus petits, résultant du détournement de leurs systèmes par des individus et des groupes malhonnêtes à des fins néfastes. Notre recherche sur la façon dont les médias sociaux peuvent être exploités par des agents politiques manipulateurs, menée avec Joan Donovan à l'institut de recherche Data &Society, suggère que le vrai problème est beaucoup plus vaste que ces entreprises ne l'admettent.

Nous pensons que les racines se trouvent dans leurs systèmes publicitaires extrêmement rentables, qui nécessitent une refonte majeure. Nous avons identifié certains changements clés que ces centrales géantes pourraient apporter immédiatement. Ces mesures pourraient réduire les possibilités de manipulation politique et limiter les dommages causés aux sociétés démocratiques du monde entier.

L'esprit des utilisateurs dans la ligne de mire

Facebook, Google, Twitter et d'autres sociétés de médias sociaux ont construit une énorme machine d'influence numérique alimentée par le suivi des utilisateurs, ciblage, des tests et une prise de décision automatisée pour rendre la publicité plus efficace et efficiente. Lors de la construction de ce système de surveillance suralimenté, les entreprises ont promis aux utilisateurs et aux régulateurs que la publicité ciblée est mutuellement bénéfique pour les consommateurs et les annonceurs.

Dans ce marché, les utilisateurs sont censés recevoir des annonces plus pertinentes. Facebook, par exemple, explique que sa "publicité basée sur les centres d'intérêt" sert les utilisateurs qui "veulent voir des publicités liées à des choses qui les intéressent". Il est vrai que ces méthodes peuvent identifier les publicités qui correspondent aux intérêts réels des utilisateurs. Mais les mêmes techniques basées sur les données qui informent un internaute sur une nouvelle conception de tableau peuvent également identifier les points stratégiques où les gens sont les plus vulnérables à l'influence.

En particulier, les principaux systèmes de publicité sur les réseaux sociaux permettent aux agents politiques d'expérimenter différentes publicités pour voir lesquelles sont les plus efficaces. Ils peuvent utiliser ces outils non seulement pour voir si certaines questions résonnent avec des cibles particulières, mais aussi pour tester les peurs ou les préjugés qui peuvent être invoqués pour influencer le comportement politique.

L'un des principaux moyens d'y parvenir est de faire sentir aux gens que quelqu'un d'autre représente une menace émotionnellement chargée pour leur identité. En 2016, par exemple, Des agents liés à la Russie ont acheté des milliers de publicités Facebook destinées à des publics spécifiques suggérant qu'Hillary Clinton avait insulté la dignité de leur groupe ou menacé leur sécurité. Certaines publicités alléguaient que Clinton avait épousé un manque de respect pour des professions spécifiques, comme les mineurs de charbon, ou des groupes raciaux, comme les Afro-Américains. D'autres ont affirmé qu'elle confisquerait des armes à feu ou soutiendrait des mouvements politiques radicaux cherchant à renverser des modes de vie familiers.

Le ciblage des publicités politiques n'est pas unique à la publicité en ligne, mais les outils des systèmes publicitaires numériques sont beaucoup plus puissants que les médias de masse traditionnels. Les annonceurs peuvent essayer plusieurs versions d'une annonce simultanément et recevoir des commentaires presque instantanés sur celles qui poussent le plus efficacement des publics spécifiques à partager, les aimer ou les commenter. Cette boucle de rétroaction numérique aide les agents politiques à affiner leurs tactiques, rechercher les bonnes images, des mots et des émotions pour influencer des sous-groupes très spécifiques de citoyens.

Déplacez-vous vite et réparez les choses

Les membres du Congrès et même certaines personnalités clés de la Silicon Valley ont commencé à discuter de la nécessité d'une surveillance gouvernementale plus stricte et d'une plus grande responsabilité dans la publicité numérique. Le changement n'a pas besoin d'attendre la politique.

Sur la base de notre analyse, Voici quelques mesures que les entreprises pourraient prendre immédiatement – ​​par elles-mêmes. Ces mesures peuvent nuire aux finances des entreprises, mais démontrerait un engagement sérieux et durable à limiter l'utilité de leurs plateformes dans les campagnes de manipulation politique.

Comme leur premier mouvement, les sociétés de médias sociaux pourraient cesser d'autoriser l'utilisation de leurs services publicitaires comme laboratoires expérimentaux en roue libre pour examiner la psyché de leurs utilisateurs. Tout comme les spécialistes du marketing et les chercheurs universitaires doivent obtenir l'autorisation de leurs sujets de test, les annonceurs politiques qui mènent des expériences publicitaires en ligne pourraient obtenir à l'avance le consentement éclairé de chaque utilisateur impliqué. Les entreprises doivent demander le consentement des utilisateurs dans des notifications spécifiques sur les expériences publicitaires et ne pas pénaliser les utilisateurs qui se désengagent en limitant leur accès aux services. Nous pensons que de nombreux utilisateurs se retireraient de ces tests s'ils en avaient le choix, mais en tout cas cette politique contribuerait à attirer l'attention du public sur les outils de manipulation cachés que les plateformes offrent à leurs vrais clients :les annonceurs politiques et commerciaux qui paient les factures.

Rendre transparente la publicité politique ciblée

Pour accroître la transparence et limiter la capacité des intérêts particuliers à influencer secrètement la politique, les entreprises de médias sociaux pourraient refuser de travailler avec les soi-disant groupes d'argent sombre. Tous les annonceurs politiques devraient être tenus de divulguer leurs principaux donateurs dans un format auquel les utilisateurs peuvent facilement accéder.

Une nouvelle politique interdisant les publicités pour l'argent noir répondrait aux preuves que des agents politiques ont utilisé l'usurpation d'identité et des tactiques publicitaires manipulatrices pour attiser les combats internes ou semer la division entre les coalitions de leurs adversaires. L'usurpation d'identité fonctionne clairement mieux lorsque les sponsors publicitaires sont en mesure de cacher leur identité et leurs motivations. Les publicités anonymes sont également plus susceptibles de violer les normes éthiques simplement parce que personne ne craint d'en être tenu responsable.

Rendre les plateformes plus démocratiques

Un changement plus important que les entreprises de médias sociaux pourraient apporter serait d'introduire un contrôle démocratique de la façon dont elles collectent et utilisent les données des personnes.

Zuckerberg de Facebook a récemment fait un premier pas dans cette direction, annonçant qu'il créera des comités d'examen indépendants pour traiter les appels des utilisateurs contre la suppression par l'entreprise de contenus qu'elle juge inappropriés. Il a expliqué qu'il voulait s'assurer que « ces décisions sont prises dans le meilleur intérêt de notre communauté et non pour des raisons commerciales ».

Quoi que vous pensiez de ce plan - et il a été accueilli avec beaucoup de scepticisme - le raisonnement de Zuckerberg reconnaît que parce que les plateformes sociales sont devenues si centrales à la vie démocratique, leurs propres politiques et décisions de conception exigent une responsabilité démocratique.

Une vision plus ambitieuse permettrait à des comités d'éthique indépendants représentant diverses communautés d'utilisateurs d'établir des politiques exécutoires pour la publicité politique éthique. Des types similaires de groupes sont courants en médecine et émergent dans l'intelligence artificielle, entre autres domaines. Les détails du fonctionnement de ces comités seront essentiels à leur succès. Si ces comités sont mis en place en partenariat avec des organisations à but non lucratif ayant fait leurs preuves en matière de plaidoyer pour la communication démocratique et la transparence du financement des campagnes, peut-être pourraient-ils aider les entreprises de médias sociaux à gagner la confiance du public en privilégiant la démocratie à la maximisation de leurs profits.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.