L'activité en ligne est de plus en plus influencée par des recommandations algorithmiques basées sur des données recueillies sur le comportement des consommateurs par des entreprises qui sont souvent réticentes à divulguer les données qu'elles collectent ou la manière dont elles les utilisent.

Des chercheurs de l'université d'Auckland se sont attachés à en savoir plus sur le fonctionnement de ces algorithmes en analysant les conditions d'utilisation et les politiques de confidentialité de Spotify et de Tinder. La recherche, publiée dans le Journal de la Royal Society of New Zealand , a été dirigé par le Dr Fabio Morreale, École de musique, et Matt Bartlett et Gauri Prabhakar, École de droit.

Les entreprises qui collectent et utilisent les données des consommateurs (généralement pour leur propre gain financier) sont particulièrement résistantes à l'examen académique, ont constaté les chercheurs. "Malgré leur puissante influence, il existe peu de détails concrets sur le fonctionnement exact de ces algorithmes, nous avons donc dû utiliser des moyens créatifs pour le découvrir", explique le Dr Morreale.

L'équipe a examiné les documents juridiques de Tinder et Spotify, car les deux plates-formes sont fondées sur des algorithmes de recommandation qui poussent les utilisateurs soit à écouter des chansons spécifiques, soit à s'associer de manière romantique avec un autre utilisateur. "Ils ont été largement négligés par rapport aux grandes entreprises technologiques telles que Facebook, Google, Tik Tok, etc., qui ont fait l'objet d'un examen plus minutieux", dit-il. "Les gens pourraient penser qu'ils sont plus bénins, mais ils sont toujours très influents."

Les chercheurs ont analysé les itérations des documents juridiques au cours de la dernière décennie. Les entreprises sont de plus en plus tenues d'informer les utilisateurs des données collectées, mais la longueur et la langue des documents juridiques ne peuvent être qualifiées de conviviales.

"Ils ont tendance à être légalistes et vagues, empêchant les étrangers d'examiner correctement les algorithmes des entreprises et leur relation avec les utilisateurs. Cela rend la tâche difficile pour les chercheurs universitaires et certainement pour l'utilisateur moyen", explique le Dr Morreale. Leurs recherches ont révélé plusieurs idées. Les politiques de confidentialité de Spotify, par exemple, montrent que l'entreprise collecte beaucoup plus d'informations personnelles qu'elle ne le faisait dans ses premières années, y compris de nouveaux types de données.

"Dans l'itération 2012 de sa politique de confidentialité, les pratiques de données de Spotify n'incluaient que des informations de base :les chansons qu'un utilisateur écoute, les listes de lecture qu'un utilisateur crée et des informations personnelles de base telles que l'adresse e-mail, le mot de passe, l'âge, le sexe et l'emplacement de l'utilisateur", déclare Dr Morreale. Après plusieurs itérations de la politique de confidentialité, la politique 2021 existante permet à l'entreprise de collecter les photos, les données de localisation, les données vocales, les données sonores de fond et d'autres types d'informations personnelles des utilisateurs.

L'évolution des conditions d'utilisation de Spotify indique également désormais que "le contenu que vous visualisez, y compris sa sélection et son placement, peut être influencé par des considérations commerciales, y compris des accords avec des tiers". Selon le Dr Morreale, cela donne amplement d'espace à l'entreprise pour mettre légalement en évidence le contenu auprès d'un utilisateur spécifique sur la base d'un accord commercial.

"Spotify promet que la "liste de lecture est conçue spécialement pour vous, en fonction de la musique que vous aimez déjà", mais les conditions d'utilisation de Spotify détaillent comment un algorithme pourrait être influencé par des facteurs extrinsèques à l'utilisateur, comme des accords commerciaux avec des artistes et des labels."

"Dans leurs recommandations (et dans leurs listes de lecture, d'ailleurs), Spotify est également susceptible de pousser les artistes des labels qui détiennent des actions Spotify. C'est anticoncurrentiel, et nous devrions le savoir."

Et probablement contrairement à la perception de la plupart des utilisateurs, l'application de rencontres Tinder est "un gros algorithme", explique Matt Bartlett. "Tinder a précédemment déclaré qu'il correspondait aux personnes sur la base de" scores de désirabilité "calculés par un algorithme. Je ne pense pas que les utilisateurs comprennent ou sachent parfaitement comment fonctionne l'algorithme de Tinder, et Tinder fait tout son possible pour ne pas nous le dire."

"Cela ne veut pas dire que c'est une mauvaise chose - le problème est qu'ils ne sont pas transparents sur la façon dont la correspondance se produit. À mon avis, les conditions d'utilisation devraient le spécifier." Bien que les chercheurs n'aient pas été en mesure d'identifier pleinement le fonctionnement des algorithmes des plates-formes, leurs recherches ont mis en évidence ce problème :les entreprises ne sont pas transparentes quant à la collecte de nos données ou à la manière dont elles les utilisent.

"Avec ces puissantes plateformes numériques possédant une influence considérable dans la société contemporaine, leurs utilisateurs et la société dans son ensemble méritent plus de clarté sur le fonctionnement des algorithmes de recommandation", déclare le Dr Morreale. "C'est fou que nous ne puissions pas le savoir; je pense qu'à l'avenir, nous allons regarder en arrière et voir cela comme le Far West de la grande technologie."