Plus tôt ce mois-ci, Meta a annoncé qu'il travaillait sur un ensemble de directives éthiques pour les "influenceurs virtuels" - des personnages animés, généralement générés par ordinateur, conçus pour attirer l'attention sur les réseaux sociaux.

Lorsque Facebook s'est rebaptisé Meta à la fin de l'année dernière, cela a annoncé un pivot vers le "métaverse" - où les influenceurs virtuels erreront probablement un jour par milliers.

Même Meta admet que le métaverse n'existe pas encore vraiment. Les éléments constitutifs d'une réalité virtuelle persistante et immersive pour tout, des affaires au jeu, doivent encore être entièrement assemblés. Mais les influenceurs virtuels sont déjà en ligne et sont étonnamment convaincants.

Mais compte tenu de son histoire récente, est-ce que Meta (née Facebook) vraiment la bonne entreprise pour établir les normes éthiques pour les influenceurs virtuels et le métaverse plus largement ?

Qui (ou quoi) sont les influenceurs virtuels ?

L'annonce de Meta note le "phénomène croissant" des médias synthétiques - un terme générique pour les images, la vidéo, la voix ou le texte générés par la technologie informatisée, utilisant généralement l'intelligence artificielle (IA) ou l'automatisation.

De nombreux influenceurs virtuels intègrent des éléments de médias synthétiques dans leur conception, allant de corps entièrement rendus numériquement à des modèles humains masqués numériquement avec les traits du visage des personnages.

Aux deux extrémités de l'échelle, ce processus repose toujours fortement sur le travail et l'apport humains, de la direction artistique pour les séances photo à la rédaction de légendes pour les médias sociaux. Comme la vision de Meta du métaverse, les influenceurs qui sont entièrement générés et alimentés par l'IA sont un fantasme largement futuriste.

Mais même dans leur forme actuelle, les influenceurs virtuels sont d'une grande valeur pour Meta, à la fois en tant qu'attractions pour leurs plates-formes existantes et en tant qu'avatars du métaverse.

L'intérêt pour les influenceurs virtuels s'est rapidement développé au cours des cinq dernières années, attirant un large public sur les réseaux sociaux et des partenariats avec de grandes marques, notamment Audi, Bose, Calvin Klein, Samsung et la plateforme de commerce électronique chinoise TMall.

Une industrie compétitive spécialisée dans la production, la gestion et la promotion d'influenceurs virtuels a déjà vu le jour, même si elle reste largement non réglementée.

Jusqu'à présent, l'Inde est le seul pays à aborder les influenceurs virtuels dans les normes publicitaires nationales, exigeant que les marques "divulguent aux consommateurs qu'elles n'interagissent pas avec un véritable être humain" lorsqu'elles publient du contenu sponsorisé.

Consignes éthiques

Il existe un besoin urgent de directives éthiques, à la fois pour aider les producteurs et leurs marques partenaires à naviguer sur ce nouveau terrain, et surtout pour aider les utilisateurs à comprendre le contenu avec lequel ils interagissent.

Meta a averti que "les médias synthétiques ont le potentiel de faire du bien et du mal", citant "la représentation et l'appropriation culturelle" comme des sujets de préoccupation spécifiques.

En effet, malgré leur courte durée de vie, les influenceurs virtuels ont déjà une histoire de racialisation manifeste et de fausse représentation, soulevant des questions éthiques pour les producteurs qui créent des personnages numériques avec des caractéristiques démographiques différentes des leurs.

Mais il est loin d'être clair si les directives proposées par Meta répondront adéquatement à ces questions.

Becky Owen, responsable de l'innovation et des solutions pour les créateurs chez Meta Creative Shop, a déclaré que le cadre éthique prévu "aidera nos partenaires de marque et les créateurs VI à explorer ce qui est possible, probable et souhaitable, et ce qui ne l'est pas".

Cet accent apparent sur les possibilités technologiques et les désirs des partenaires de la marque donne inévitablement l'impression que Meta confond une fois de plus potentiel commercial et pratique éthique.

À leur propre compte, les plateformes de Meta hébergent déjà plus de 200 influenceurs virtuels. Mais les influenceurs virtuels existent aussi ailleurs :ils font des défis de danse virale sur TikTok, téléchargent des vlogs sur YouTube et publient des mises à jour sur Sina Weibo. Ils apparaissent "hors ligne" dans les centres commerciaux de Pékin et de Singapour, sur des panneaux d'affichage 3D à Tokyo et jouent dans des publicités télévisées.

Gardien ou braconnier ?

Cela nous ramène à la question de savoir si Meta est la bonne entreprise pour établir les règles de base de cet espace émergent.

L'histoire de l'entreprise est marquée par des comportements contraires à l'éthique, depuis les débuts douteux de Facebook dans le dortoir de Mark Zuckerberg à Harvard (comme illustré dans The Social Network) jusqu'aux manquements à grande échelle à la confidentialité démontrés dans le scandale de Cambridge Analytica.

En février 2021, Facebook a montré jusqu'où il était prêt à aller pour défendre ses intérêts, lorsqu'il a brièvement interdit tout contenu d'actualité sur Facebook en Australie pour forcer le gouvernement fédéral à édulcorer le code de négociation des médias australiens.

L'année dernière, l'ancienne dirigeante de Facebook, Frances Haugen, s'est également révélée très publiquement lanceuse d'alerte, partageant une mine de documents internes avec des journalistes et des politiciens.

Ces soi-disant "Facebook Papers" ont soulevé de nombreuses inquiétudes quant à la conduite et à l'éthique de l'entreprise, notamment la révélation que les propres recherches internes de Facebook ont ​​montré qu'Instagram peut nuire à la santé mentale des jeunes, voire conduire au suicide.

Aujourd'hui, Meta lutte contre un litige antitrust aux États-Unis qui vise à restreindre le monopole de l'entreprise en l'obligeant potentiellement à vendre des acquisitions clés, notamment Instagram et WhatsApp.

Pendant ce temps, Meta s'efforce d'intégrer son service de messagerie dans les trois applications, ce qui en fait des interfaces différentes pour un back-end partagé qui, selon Meta, ne peut sans doute pas être séparé, quel que soit l'issue du litige en cours.

Compte tenu de cette histoire, Meta semble loin d'être le choix idéal en tant que gardien éthique du métaverse.

La répartition déjà étendue des influenceurs virtuels sur les plateformes et les marchés met en évidence la nécessité de directives éthiques qui vont au-delà des intérêts d'une entreprise, en particulier une entreprise qui a tant à gagner du spectacle imminent.