Les réseaux sociaux en ligne prétendent créer des liens et rapprocher les gens. Mais les algorithmes de classement et de recommandation qui suggèrent par exemple avec qui se connecter, ou qui sont les scientifiques les plus pertinents dans un domaine, ne sont pas justes. Une étude vient d'être publiée dans la revue Scientific Reports montre que les algorithmes peuvent exacerber les inégalités et discriminer certains groupes de personnes dans les rangs supérieurs.

L'étude a examiné comment les mécanismes sociaux influencent les distributions de classement de deux algorithmes bien connus, à savoir PageRank, l'un des principaux algorithmes sur lesquels repose le moteur de recherche de Google, et Who-to-Follow, l'algorithme de Twitter qui suggère des personnes que vous n'êtes pas. suit actuellement que vous pourriez trouver intéressant.

"Il a été démontré dans le passé que les algorithmes de classement ont tendance à augmenter la popularité d'utilisateurs déjà populaires et peuvent entraîner des pertes d'opportunités pour certains groupes de personnes", explique Lisette Espín-Noboa, spécialiste des sciences sociales en informatique à la Complexité. Science Hub Vienna (CSH) et le premier auteur de l'article. "Nous voulions comprendre quand ces algorithmes peuvent mal tourner, en fonction de la structure et des caractéristiques d'un réseau."

Comprendre les algorithmes

L'équipe a simulé différents réseaux, composés de 2 000 individus, et a ajusté les mécanismes sociaux des relations entre les individus de chaque réseau. Les scientifiques ont pu faire des variations dans les propriétés attribuées à chaque réseau, telles que la proportion de la minorité, la façon dont les utilisateurs actifs se connectaient avec d'autres utilisateurs et la façon dont les gens se connectaient au réseau. En particulier, les chercheurs se sont intéressés à savoir si les individus s'associaient plus probablement à d'autres qui étaient déjà populaires, et s'ils avaient tendance à s'associer à ceux qui leur ressemblaient. Préférer les autres qui sont semblables à soi-même est un principe que les sociologues appellent l'homophilie ("les oiseaux d'une plume s'assemblent").

Mécanisme social principal

Les chercheurs ont découvert que le principal mécanisme social responsable de la distorsion de la visibilité des minorités dans les classements était en fait l'homophilie, avec la proportion de la minorité. "Nous constatons que lorsque le groupe majoritaire s'associe principalement à d'autres membres de la majorité, le groupe minoritaire est sous-représenté dans les rangs supérieurs", explique Espín-Noboa. "Cependant, les minorités peuvent surmonter cette sous-représentation en se connectant stratégiquement avec les autres et peuvent essayer d'atteindre au moins la parité statistique dans les premiers rangs."

La parité statistique signifie que si la minorité représente 20 % des personnes du réseau, le même ratio doit se refléter dans chaque top-k du classement. "Une façon d'augmenter la visibilité des minorités dans le rang est de les rendre plus actives dans le réseau", explique Expín-Noboa. "Cela signifie que les minorités devraient créer plus de liens avec les autres."

Une autre façon qui pourrait rendre les minorités plus visibles est de diversifier les connexions de la majorité :en créant plus de connexions du groupe majoritaire au groupe minoritaire, constate l'étude.

Des scénarios plus réalistes

"Nous avons vu dans une étude antérieure comment l'homophilie peut influencer le classement des minorités", explique la co-auteure Fariba Karimi qui dirige l'équipe "Network Inequality" au CSH. "Ce document suppose des scénarios de réseaux sociaux plus réalistes et examine non seulement les algorithmes de classement, mais également les algorithmes de recommandation sociale que les plateformes de réseaux sociaux telles que Twitter utilisent", dit-elle. "Nos nouvelles découvertes suggèrent que les algorithmes de classement et de recommandation dans les réseaux sociaux en ligne tels que Twitter peuvent en effet déformer la visibilité des minorités de manière inattendue."