Cinq ans depuis le vote du Brexit et trois depuis le scandale Cambridge Analytica, nous connaissons maintenant le rôle que la publicité politique ciblée peut jouer dans la fomentation de la polarisation. Il a été révélé en 2018 que Cambridge Analytica avait utilisé des données récoltées à partir de 87 millions de profils Facebook, sans le consentement des utilisateurs, pour aider la campagne électorale de 2016 de Donald Trump à cibler les électeurs clés avec des publicités en ligne.

Dans les années qui ont suivi, nous avons appris comment ces types de publicités ciblées peuvent créer des bulles de filtres politiques et des chambres d'écho, soupçonnés de diviser les gens et d'augmenter la circulation de la désinformation nuisible.

Mais la grande majorité des annonces échangées en ligne sont commerciales, pas politique. La publicité commerciale ciblée est la principale source de revenus dans l'économie Internet, mais nous savons peu de choses sur la façon dont cela nous affecte. Nous savons que nos données personnelles sont collectées pour soutenir la publicité ciblée d'une manière qui viole notre vie privée. Mais en dehors des considérations de confidentialité, Sinon, comment le ciblage pourrait-il nous nuire et comment ces préjudices pourraient-ils être évités ?

Ces questions ont motivé nos recherches récentes. Nous avons constaté que la publicité ciblée en ligne nous divise et nous isole également en nous empêchant de signaler collectivement les publicités auxquelles nous nous opposons. Nous le faisons dans le monde physique (peut-être lorsque nous voyons une publicité à un arrêt de bus ou à une gare) en alertant les régulateurs du contenu préjudiciable. Mais les consommateurs en ligne sont isolés car les informations qu'ils voient se limitent à ce qui leur est destiné.

Jusqu'à ce que nous résolvions cette faille, empêcher les publicités ciblées de nous isoler des commentaires des autres, les régulateurs ne pourront pas nous protéger des publicités en ligne qui pourraient nous nuire.

En raison du volume considérable d'annonces échangées en ligne, les superviseurs humains ne peuvent pas contrôler chaque campagne. Alors de plus en plus, les algorithmes d'apprentissage automatique filtrent le contenu des publicités, prédire la probabilité qu'ils soient nocifs ou non conformes aux normes. Mais ces prédictions peuvent être biaisées, et ils n'interdisent généralement que les violations les plus flagrantes. Parmi les nombreuses annonces qui passent ces contrôles, une partie importante contient encore du contenu potentiellement dangereux.

Traditionnellement, les autorités de normalisation de la publicité ont adopté une approche réactive pour réglementer la publicité, s'appuyer sur les plaintes des consommateurs. Prenez le cas de 2015 de la campagne "Beach Body" de Protein World, qui a été affiché à travers le métro de Londres sur des panneaux d'affichage mettant en vedette un modèle en bikini à côté des mots:"Are you beach body ready?" De nombreux navetteurs se sont plaints, disant qu'il encourageait des stéréotypes nuisibles. Peu après, la publicité a été interdite et une enquête publique sur la publicité socialement responsable a été lancée.

Réglementation des publicités

Le cas de Protein World illustre le fonctionnement des régulateurs. Parce qu'ils répondent aux plaintes des consommateurs, le régulateur est ouvert à examiner comment les publicités entrent en conflit avec les normes sociales perçues. À mesure que les normes sociales évoluent avec le temps, cela aide les régulateurs à se tenir au courant de ce que le public considère comme nuisible.

Les consommateurs se sont plaints de la publicité parce qu'ils pensaient qu'elle promouvait et normalisait un message préjudiciable. Mais il a été rapporté que seulement 378 navetteurs ont déposé des plaintes auprès du régulateur, des centaines de milliers susceptibles de les avoir vus. Cela pose la question :qu'en est-il de tous les autres ? Si la campagne avait eu lieu en ligne, les gens n'auraient pas vu des affiches défigurées par des navetteurs mécontents et ils n'auraient peut-être pas été incités à remettre en question son message.

Le controversé de Protein World Êtes-vous prêt pour le corps à la plage ? l'annonce ne peut pas apparaître sous sa forme actuelle http://t.co/CVdVCqLDJQ pic.twitter.com/TCfPKTKqyU

– Vogue britannique (@BritishVogue) 30 avril, 2015

Quoi de plus, si l'annonce pouvait cibler uniquement le sous-ensemble de consommateurs les plus réceptifs à son message, ils n'ont peut-être pas soulevé de plaintes. Par conséquent, le message nuisible serait resté incontesté, rater une occasion pour le régulateur de mettre à jour ses directives conformément aux normes sociales actuelles.

Parfois, les publicités sont nuisibles dans un contexte spécifique, comme lorsque les publicités pour les aliments riches en matières grasses ciblent les enfants, ou lorsque les publicités sur les jeux d'argent ciblent ceux qui souffrent d'une dépendance au jeu. Les publicités ciblées peuvent également nuire par omission. C'est le cas, par exemple, si les annonces de chaussures évincent les offres d'emploi ou les annonces de santé publique que quelqu'un pourrait trouver plus utiles ou même vitales.

Ces cas peuvent être décrits comme des préjudices contextuels :ils ne sont pas liés à un contenu spécifique, mais dépendent plutôt du contexte dans lequel l'annonce est présentée au consommateur.

Les algorithmes d'apprentissage automatique sont mauvais pour identifier les dommages contextuels. Au contraire, la façon dont fonctionne le ciblage les amplifie en fait. Plusieurs audits, par exemple, ont découvert comment Facebook a permis un ciblage discriminatoire qui aggrave les inégalités socio-économiques.

Creuser plus profond

La cause première de tous ces problèmes peut être attribuée au fait que les consommateurs ont une expérience en ligne très isolée. Nous appelons cela un état de "fragmentation épistémique", où les informations disponibles pour chaque individu se limitent à ce qui le cible, sans la possibilité de se comparer aux autres dans un espace partagé comme le métro de Londres.

Grâce au ciblage personnalisé, chacun de nous voit des publicités différentes. Cela nous rend plus vulnérables. Les publicités peuvent jouer sur nos vulnérabilités personnelles, ou ils peuvent nous refuser des opportunités dont nous ignorions l'existence. Parce que nous ne savons pas ce que les autres utilisateurs voient, notre capacité à surveiller d'autres personnes vulnérables est également limitée.

Actuellement, les régulateurs adoptent une combinaison de deux stratégies pour relever ces défis. D'abord, nous voyons un accent croissant sur l'éducation des consommateurs pour leur donner le « contrôle » sur la façon dont ils sont ciblés. Seconde, il y a une tendance à surveiller les campagnes publicitaires de manière proactive, automatiser les mécanismes de filtrage avant la publication des annonces en ligne. Ces deux stratégies sont trop limitées.

Au lieu, nous devrions nous concentrer sur la restauration du rôle des consommateurs en tant que participants actifs dans la réglementation de la publicité en ligne. Cela pourrait être réalisé en émoussant la précision des catégories de ciblage, en instituant des quotas de ciblage, ou en interdisant complètement le ciblage. Cela garantirait qu'au moins une partie des publicités en ligne soient vues par des consommateurs plus diversifiés, dans un contexte partagé où les objections peuvent être soulevées et partagées.

À la suite du scandale Cambridge Analytica, des efforts ont été déployés par la Commission électorale pour ouvrir le monde caché des publicités politiques ciblées à l'approche des élections britanniques de 2019. Certains diffuseurs ont demandé à leur public d'envoyer des publicités ciblées sur leurs flux de médias sociaux, afin de les partager avec un public plus large. Les groupes de campagne et les universitaires ont pu analyser plus en détail les campagnes de ciblage, exposer où les publicités pourraient être nuisibles ou fausses.

Ces stratégies pourraient également être utilisées pour la publicité commerciale ciblée, ce qui briserait la fragmentation épistémique qui nous empêche actuellement de répondre collectivement aux publicités nuisibles. Nos recherches montrent qu'il n'y a pas que le ciblage politique qui cause des dommages, le ciblage commercial requiert également notre attention.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.