Les magasins en ligne peuvent utiliser des algorithmes pour facturer à certains clients des prix plus élevés que d'autres. Les lois européennes n'offrent qu'une protection limitée contre une telle différenciation des prix. Frederik Zuiderveen Borgesius, Professeur des TIC et du droit privé à l'Université Radboud, a écrit sur ce même sujet dans un article qui a été publié dans la European Business Law Review.
Les magasins en ligne comme Bol.com et Amazon utilisent de nombreux algorithmes pour inciter les consommateurs à dépenser leur argent plus rapidement. L'utilisateur moyen est probablement habitué à voir des produits recommandés basés sur des achats précédents et des notifications clignotantes lorsque les stocks sont épuisés, mais que se passerait-il si un algorithme était utilisé pour afficher un prix de détail individuel pour chaque client ? Les magasins en ligne pourraient ajuster les prix pour certains codes postaux, ou même des clients individuels sur la base d'adresses IP et d'autres caractéristiques.
Discrimination algorithmique et liberté contractuelle
Les magasins qui utilisent des algorithmes ont rarement des intentions discriminatoires, mais l'utilisation d'algorithmes peut aussi conduire par inadvertance à une discrimination. Ce fut le cas lorsqu'une institution américaine de tutorat facturait des tarifs plus élevés pour certains domaines. Les habitants de ces quartiers étaient principalement des personnes d'origine asiatique, qui a dû payer plus pour le tutorat. Dans certains cas, la différence de prix pour chaque cours était aussi élevée que 1 $, 800.
En principe, la loi autorise la différenciation des prix. La liberté contractuelle joue un rôle majeur dans le droit européen, ce qui implique que les vendeurs peuvent déterminer leur propre prix de vente au détail. Mais si la différenciation des prix conduit à une discrimination à l'encontre des groupes aux caractéristiques protégées, comme l'origine ethnique ou le sexe, la loi sur la non-discrimination entrera en jeu.
Les règles européennes de non-discrimination protègent contre diverses formes de discrimination, y compris la discrimination fondée sur l'ethnicité et le sexe. La discrimination indirecte est également interdite. En bref, la discrimination indirecte se produit si une pratique est neutre à première vue, mais conduit toujours à une discrimination à l'encontre des personnes ayant une certaine ethnie (ou une caractéristique protégée).
Difficile à découvrir
Si une boutique en ligne adapte ses prix au code postal du client, ceci est considéré comme une pratique neutre. Cependant, si les habitants de cette zone sont majoritairement issus de l'immigration, la pratique peut entraîner une forme interdite de discrimination indirecte. La loi sur la non-discrimination semble donc protéger les personnes contre certaines formes de différenciation des prix.
"Mais la protection contre la différenciation des prix est limitée", explique Zuiderveen Borgesius. Pour commencer, la discrimination algorithmique peut rester cachée. "Supposons qu'une boutique en ligne facture un prix plus élevé dans une zone où la majorité des résidents sont d'origine turque. Il est difficile pour les habitants de cette zone de voir une différence de prix. Ce n'est que lorsque ces prix sont comparés aux prix de quelqu'un d'autre à l'extérieur. la zone où vous pouvez voir la différence. Et même si certains consommateurs ont compris qu'ils ont payé plus que d'autres, ils ne sauraient toujours pas que les personnes d'origine turque paient plus en général. D'où, les consommateurs ne seraient toujours pas conscients de la discrimination indirecte. Si les consommateurs ne se rendent pas compte qu'ils sont victimes de discrimination, ils n'exerceront pas leur droit à la non-discrimination."
Un deuxième problème est que l'interdiction de la discrimination indirecte comprend une exception nuancée, ce qui est souvent difficile à appliquer dans un cas précis. La discrimination indirecte n'est pas interdite si l'entreprise poursuit un objectif légitime et que sa pratique neutre constitue un moyen raisonnable (proportionné).
"Si une entreprise essayait de faire des bénéfices supplémentaires, un juge considérerait probablement cela comme un objectif légitime", dit Zuiderveen Borgesius. Plus complexe est la question de savoir si la différenciation des prix est un moyen raisonnable. Cette réponse dépend de nombreux facteurs. Quelle est la différence de prix ? S'agit-il de caviar ou d'autres produits de luxe, ou des produits de supermarché que les gens utilisent quotidiennement ? Une règle aussi nuancée présente des avantages, mais la nuance se fait au détriment de la clarté. En somme, il n'y a pas de règle absolue qui dicte clairement quels types de différenciation des prix sont autorisés et lesquels sont interdits.
Préférences du navigateur et nouveaux types de discrimination
Zuiderveen Borgesius :« De plus, des algorithmes permettent de distinguer les consommateurs sur la base d'un grand nombre de caractéristiques. Les lois européennes reconnaissent la discrimination fondée sur l'ethnicité, genre, et d'autres caractéristiques de ce type. Cependant, le navigateur que vous utilisez ou la zone de code postal dans laquelle vous habitez n'est pas une caractéristique protégée. Une boutique en ligne pourrait par conséquent faire payer un supplément aux gens lorsqu'ils utilisent un certain navigateur. La loi sur la non-discrimination en dit peu à ce sujet, tant que la pratique n'affecte pas les personnes d'une certaine ethnie ou d'une autre caractéristique protégée."
Bien qu'actuellement, il semble qu'il n'y ait pratiquement pas de magasins en ligne qui utilisent des algorithmes pour déterminer différents prix pour différents consommateurs, il y a de fortes chances que cela change à l'avenir. C'est en partie pour cette raison que le ministre néerlandais Sander Dekker a annoncé dans une lettre à la Chambre des représentants que les ministères de l'Intérieur et de la Justice et de la Sécurité étudient comment prévenir la discrimination lors de l'offre de biens et de services. Zuiderveen Borgesius :« Il est probable qu'une nouvelle législation soit nécessaire pour offrir une meilleure protection. En ce qui concerne la question de savoir comment nous pouvons protéger les gens contre les effets discriminatoires des algorithmes, davantage de recherches et de débats sont nécessaires."
