Mustafa aime le bon café. Durant son temps libre, il parcourt souvent des machines à café haut de gamme pour lesquelles il ne peut actuellement pas se permettre mais pour lequel il économise. Un jour, se rendre au mariage d'un ami à l'étranger, il arrive à s'asseoir à côté d'un autre ami dans l'avion. Quand Mustafa se plaint du prix qu'il a payé pour son billet, il s'avère que son ami a payé moins de la moitié de ce qu'il a payé, même s'ils ont réservé à peu près en même temps.

Il examine les raisons possibles de cela et conclut que cela doit être lié à sa recherche de machines à café et d'équipements coûteux. Il est très en colère à ce sujet et se plaint à la compagnie aérienne, qui lui adressent des excuses tièdes faisant référence à des modèles de tarification personnalisés. Mustafa estime que c'est injuste mais ne le conteste pas. La poursuivre plus loin lui coûterait du temps et de l'argent.

Cette histoire, qui est hypothétique, mais cela peut se produire et se produit – démontre le potentiel que les personnes peuvent être lésées par l'utilisation des données à l'ère actuelle du « big data ». L'analyse des mégadonnées implique l'utilisation de grandes quantités de données provenant de nombreuses sources qui sont liées et analysées pour trouver des modèles qui aident à prédire le comportement humain. Une telle analyse, même parfaitement légal, peut nuire aux gens.

Mustafa, par exemple, a probablement été affecté par des pratiques de tarification personnalisées dans lesquelles sa recherche de machines à café haut de gamme a été utilisée pour faire certaines hypothèses sur sa volonté de payer ou son pouvoir d'achat. Cela a peut-être conduit à son billet d'avion plus cher. Bien que cela n'ait pas causé de préjudice grave dans le cas de Mustafa, les cas de graves préjudices émotionnels et financiers sont, Malheureusement, pas rare, y compris le refus d'hypothèques pour les particuliers et les risques pour la solvabilité générale d'une personne sur la base d'associations avec d'autres particuliers. Cela peut se produire si une personne partage des caractéristiques similaires à celles d'autres personnes qui ont de mauvais antécédents de remboursement.

Des cas de préjudice émotionnel peuvent également se produire. Imaginez un couple qui découvre qu'il attend un enfant tant désiré, mais faire une fausse couche à cinq mois. Le couple peut constater qu'il continue de recevoir des publicités de magasins spécialisés dans les produits pour nourrissons des mois plus tard, célébrer ce qui aurait dû être des « étapes » clés, provoquant de la détresse. C'est un autre scénario hypothétique mais tout à fait possible.

La loi ou son absence

Dans beaucoup de ces cas, parce que la pratique nuisible peut n'avoir enfreint aucune loi, ceux qui ont été lésés par l'utilisation des données ont peu ou pas d'options juridiques qui s'offrent à eux. Qu'est-il arrivé à Mustafa, par exemple, était parfaitement légal, car il n'existe aucune loi actuelle interdisant la tarification personnalisée en tant que telle. Nos systèmes juridiques actuels ne protègent pas adéquatement les personnes contre les dommages résultant des mégadonnées.

En effet, il est très difficile de retracer la manière dont nos données sont liées et utilisées. Même si la compagnie aérienne avait fait quelque chose d'illégal, telles que les lois sur la protection des données enfreintes, il serait presque impossible pour Mustafa de le découvrir. Les personnes qui estiment avoir été lésées par l'utilisation des données peuvent avoir du mal à montrer comment leurs données ont été utilisées pour causer ce préjudice, quelles données étaient concernées ou quel responsable du traitement les a utilisées. Et donc ils peuvent ne pas avoir la preuve dont ils auraient besoin pour obtenir un recours légal.

Par ailleurs, même s'ils montrent comment quelque chose que quelqu'un a fait avec leurs données leur a fait du mal, cette utilisation particulière des informations client, pour ajuster les prix par exemple, peut ne pas être illégal.

Également, le préjudice peut être causé non par ses propres données mais par l'utilisation des données d'autres personnes (données de tiers). Par exemple, dans le cas de Mustafa, il se peut que d'autres personnes également intéressées par des machines à café coûteuses aient des revenus très élevés, ou acheté des articles coûteux. Cela a peut-être été utilisé pour suggérer que Mustafa appartenait également à cette catégorie, ce qui peut avoir entraîné pour lui des prix plus élevés pour d'autres produits. Une personne lésée par l'utilisation de données de tiers n'aura souvent pas de recours en vertu des lois actuelles sur la protection des données.

Un nouveau système

Pour aider à résoudre ces problèmes, nous soutenons que nous devons accepter que certains risques liés à l'utilisation des données ne sont pas évitables. Au lieu de se concentrer uniquement sur essayer de minimiser ou d'éviter de tels risques, nous devons également trouver des moyens de mieux soutenir les personnes qui subissent des préjudices liés à l'utilisation des données, par exemple en surveillant activement et en répondant aux dommages causés par l'utilisation des données, y compris les utilisations légales des données.

Nous pensons que dans le cadre de ce système, un nouveau type d'institution devrait être créé. Nous les appelons des organismes d'atténuation des dommages. Ceux-ci seraient mis en place au niveau national, et les personnes qui se sentaient lésées par l'utilisation des données, mais n'avait pas droit à des recours juridiques, s'adresser à eux pour signaler le préjudice qu'ils pensent avoir résulté de l'utilisation des données. Contrairement aux remèdes traditionnels, les organismes d'atténuation des dommages peuvent apporter leur soutien même dans les cas où aucune loi n'a été enfreinte. Ils seraient faciles à utiliser pour les gens, et souple, afin qu'ils puissent aider les gens où et comment ils en ont le plus besoin, donner plus de pouvoir aux individus et renforcer la responsabilité collective de l'utilisation des données.

Ces organes proposés recueilleraient des informations sur les types de préjudices qui se produisent :actuellement, il n'existe aucun organisme national ou international qui collecte systématiquement des informations sur les préjudices liés aux données. Ils fourniraient également des informations en retour aux décideurs et aux utilisateurs de données pour aider à améliorer la façon dont les choses sont faites. Et dans les cas où des personnes subissent des préjudices financiers mais n'ont pas accès à une aide juridique, ils pourraient également fournir un soutien financier.

L'analyse des mégadonnées est à juste titre louée pour les nombreuses nouvelles opportunités qu'elle offre. Mais il sera inévitable que certaines personnes soient blessées. En tant que société, nous devons faire face à cette vérité, et apporter une meilleure assistance à ceux qui subissent des préjudices, afin que personne qui supporte les coûts de ces nouvelles pratiques ne soit laissé seul.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.