Un effet de réseau connu sous le nom d'homophilie peut réduire la visibilité des femmes sur les réseaux sociaux lorsque des algorithmes de recommandation sont ajoutés, dit une nouvelle étude. Dessus, un selfie du compte Instagram de la co-auteure de l'étude Ana-Andreea Stoica. Crédit :Ana-Andrée Stoica
Les médias sociaux et l'économie du partage ont créé de nouvelles opportunités en tirant parti des réseaux en ligne pour renforcer la confiance et éliminer les obstacles du marché. Mais un nombre croissant de recherches suggère que les anciens préjugés sexistes et raciaux persistent, de la plus grande popularité des hommes sur Twitter aux taux d'acceptation plus faibles des Afro-Américains sur Airbnb.
Maintenant, en utilisant le site de partage de photos Instagram comme cas de test, Des chercheurs de Columbia démontrent comment deux algorithmes de recommandation communs amplifient un effet de réseau connu sous le nom d'homophilie dans lequel des personnes similaires ou partageant les mêmes idées se regroupent. Ils montrent en outre comment les algorithmes déchaînés sur un réseau avec homophilie rendent effectivement les femmes moins visibles; ils ont constaté que les femmes dans leur ensemble de données, dont les photos étaient légèrement moins susceptibles d'être « likées » ou commentées, est devenu encore moins populaire une fois que les algorithmes de recommandation ont été introduits.
En calculant comment cela se produit, les chercheurs espèrent que leur travail, qui sera présenté le 25 avril à la Web Conférence à Lyon, peut ouvrir la voie à des algorithmes qui corrigent l'homophilie.
"Nous montrons simplement comment certains algorithmes récupèrent des modèles dans les données, " a déclaré l'auteur principal de l'étude Ana-Andreea Stoica, un étudiant diplômé à Columbia Engineering. "Cela devient un problème lorsque l'information diffusée sur le réseau est une offre d'emploi ou une autre opportunité. Les algorithmes peuvent désavantager encore plus les femmes."
Les chercheurs ont récupéré leurs données sur Instagram en 2014, après que Facebook a acheté l'entreprise, mais avant que les invites automatisées ne facilitent la connexion avec les amis d'amis. Bien que les femmes soient plus nombreuses que les hommes dans leur échantillon de 550, 000 utilisateurs Instagram (54% à 46%), les chercheurs ont découvert que les photos d'hommes avaient tendance à être mieux reçues :52 pour cent des hommes ont reçu au moins 10 "j'aime" ou commentaires, contre 48 pour cent des femmes.
La majorité des hyper-influenceurs de l'échantillon des chercheurs étaient des femmes, mais lorsque l'algorithme de recommandation Adamic-Adar a été introduit, les hommes étaient trois fois plus susceptibles que les femmes dans ce groupe exclusif d'être suggérés comme nouveau contact aux autres sur le réseau. Crédit :Ana-Andrée Stoica
Comme prévu, l'homophilie a joué un rôle. Les chercheurs ont découvert que les hommes étaient 1,2 fois plus susceptibles d'"aimer" ou de commenter les photos d'autres hommes que celles des femmes, tandis que les femmes n'étaient que 1,1 fois plus susceptibles de s'engager avec d'autres femmes.
Lorsqu'ils ont utilisé deux algorithmes de recommandation largement utilisés - Adamic-Adar et Random Walk (amis d'amis) - les chercheurs ont découvert que le pourcentage de femmes connectées à, ou devrait être recommandé à, au moins 10 autres utilisateurs d'Instagram sont passés de 48% dans l'ensemble de données d'origine, respectivement à 36% et 30%. Comme prédit dans une série de preuves mathématiques dans l'article, les chercheurs ont également découvert que la disparité était la plus grande parmi les super-influenceurs d'Instagram - des gens comme le PDG d'Instagram, Kevin Systrom, dont les publications populaires et 1,5 million d'abonnés le placent dans le premier dixième d'un pour cent pour l'engagement.
Quand les algorithmes se sont déchaînés sur ce réseau exclusif d'individus ultra-engageants, la visibilité des femmes a plongé. Bien que les femmes dans le top 0,1 pour cent pour l'engagement (avec au moins 320 connexions) étaient plus nombreuses que les hommes (54 pour cent à 46 pour cent), les hommes étaient beaucoup plus susceptibles d'être suggérés à de nouveaux utilisateurs et d'étendre rapidement leurs réseaux. Seulement 26% et 28% des femmes dans le top .1% étaient susceptibles, sous les algorithmes Adamic-Adar et Random Walk respectivement, d'être recommandées au moins 23 fois et 12 fois, les chercheurs ont trouvé.
"Les algorithmes captent des motifs subtils et les amplifient, " a déclaré l'auteur principal de l'étude, Augustin Chaintreau, informaticien à Columbia Engineering et membre du Columbia's Data Science Institute. "Nous ne demandons pas que les algorithmes soient aveugles aux données, juste qu'ils corrigent leur propre tendance à amplifier le biais déjà présent."
L'étude est la dernière à montrer que les algorithmes de recommandation, en plus de filtrer le contenu, peut influencer la structure à long terme d'un réseau social. "Il est remarquable qu'une simple hypothèse d'homophilie amène les algorithmes à amplifier les disparités de statut social, " a déclaré Amit Sharma, un chercheur de Microsoft Research India qui n'a pas participé à l'étude mais a récemment parlé à Columbia de son propre travail explorant les moteurs de recommandation et l'influence sociale.
Les interventions algorithmiques qui équilibrent la commodité avec les objectifs éthiques peuvent être un moyen de résoudre le problème, il ajouta. « Grâce à des études comme celle-ci, nous apprenons que la pratique d'optimiser une seule métrique exclusivement, par exemple, nombre de nouveaux amis ajoutés, n'est pas la bonne voie. Malheureusement, l'alternative n'est pas claire. Nous sommes encore en train de gratter la surface pour comprendre comment les algorithmes affectent le comportement humain à long terme. »
