Toute personne utilisant les achats en ligne, les médias sociaux ou même le courrier électronique subissent volontairement – ​​mais pas nécessairement consciemment – ​​l'influence des technologies personnalisées. Le « profilage » qui conduit à des publicités pour certains produits qui vous harcèlent sur le Web peut être une nuisance. Mais de récents articles sur Cambridge Analytica s'approvisionnant en données personnelles sur Facebook soulèvent des inquiétudes plus profondes quant à l'autonomie des personnes, et la sécurité des processus démocratiques.

La personnalisation façonne les expériences des gens de la politique, Commerce, vie personnelle et sociale. C'est un puissant, principe technologiquement activé, qui recueille des informations sur nos choix et préférences pour adapter notre engagement avec les objets, établissements, services et les uns des autres.

Bien sûr, cela peut nous aider à prendre des décisions plus rapidement sur nos tâches quotidiennes – pour nous aider à être plus « nous-mêmes ». La personnalisation semble souvent responsabiliser les individus; pour les aider à se sentir compétents, en contrôle et confiant dans les goûts et les opinions qui nous distinguent des autres.

Mais trop souvent, il y a un "double tranchant" à la personnalisation, qui passe inaperçue des utilisateurs – jusqu'à ce qu'ils soient confrontés à ses effets. La personnalisation a soulevé des questions sur la confidentialité, responsabilité personnelle et consentement; il a déstabilisé les rapports de force entre concepteurs, fabricants et consommateurs; et il a perturbé le discours entre les partis politiques et les citoyens. Cela peut également compromettre la compréhension de ce que signifie être une personne, et un agent moral.

En contrôle, ou sous contrôle ?

Aujourd'hui, les rencontres avec la personnalisation commencent dès la naissance. Les mannequins intelligents tels que Pacif-i utilisent la technologie Bluetooth pour surveiller la température d'un enfant, et enregistrer quand un parent a administré ses médicaments pour la dernière fois, avec la posologie. Ces données sont envoyées sur les téléphones des parents, et peut être partagé avec les médecins. Plus tard dans la vie, les interventions médicales personnalisées peuvent utiliser l'analyse génétique pour optimiser les traitements, prédire les résultats de santé futurs et la probabilité de maladies futures.

Avoir cette information peut sembler une bonne chose :Pacifi-i donne aux parents la possibilité de surveiller de près la santé de leur enfant, tandis que la médecine personnalisée donne aux utilisateurs la possibilité d'ajuster leurs habitudes pour minimiser l'apparition d'une maladie. Mais ces interventions personnalisées peuvent ne pas être si bienvenues si les personnes concernées sont empêchées de bénéficier d'une assurance maladie, parce que ces données détaillées ont été divulguées à une compagnie d'assurance.

De même, le budget de santé personnel du NHS offre une approche personnalisée des soins sociaux, en attribuant des choix de dépenses aux patients. Contrôler leurs propres soins peut aider les gens à se sentir responsabilisés. Mais les recherches de notre livre sur la personnalisation montrent que cet avantage peut être inégalement réparti selon la classe et l'éducation, et que l'obligation de choisir et de gérer un traitement peut représenter un fardeau plus lourd pour les patients et leurs familles.

L'effet de chambre d'écho dans les médias sociaux peut retarder le discours politique grâce à des invites personnalisées, qui ne nous lient qu'à des "gens comme nous". L'expérience d'affirmation de soi d'aimer quelque chose sur Facebook favorise notre sentiment d'appartenance et d'inclusion. Mais, à la fois, Facebook – et en fait les entreprises qui récoltent les données de Facebook – peuvent également prédire des traits d'identification que nous avons choisi de ne pas divulguer.

Innovations dans la technologie de production, comme l'impression 3D, offrir aux consommateurs une combinaison de forme physique et de personnalité. Certains producteurs donnent même aux amputés la possibilité de choisir la finition finale de leurs membres prothétiques. De nos jours, vous pouvez non seulement personnaliser les vêtements en utilisant des plateformes de conception ouvertes, mais aussi "emprunter" la personnalité de quelqu'un d'autre par, par exemple, personnaliser le t-shirt d'un célèbre footballeur . Mais cette personnalisation de masse déstabilise la relation entre producteurs et consommateurs, ce qui rend plus difficile pour les fabricants de planifier des augmentations de la demande et des pics de ventes.

Personnalisation pour le peuple

Avec les derniers assistants numériques et plateformes géniales telles que Siri d'Apple, Assistant Google et Amazon Echo, nous pouvons contrôler des appareils avec cette caractéristique la plus personnelle - notre voix. Pourtant, ces agents personnels virtuels ont leur propre voix, trop, et il y a un danger que de tels systèmes se retrouvent avec trop de pouvoir pour personnaliser ce qu'ils nous offrent.

Cela limiterait les options des utilisateurs – plutôt que de les étendre. Mais plus important, si une machine ressemble trop à une personne - si elle est trop sociable - alors il y a un danger que nous en venions à la considérer comme un agent capable de prendre des décisions indépendantes, alors qu'en fait, ce ne sont que des outils pour mener à bien nos propres agendas.

Au cours des dernières semaines, de nombreuses entreprises ont décidé de mettre à jour leurs politiques de confidentialité et de partage de données pour les rendre plus simples à comprendre pour leurs utilisateurs ou à trouver une option de désinscription. Mais ces documents restent longs et complexes, et tout le monde ne pourra pas les comprendre. Le fait que le Commissaire britannique à l'information n'ait pas pu accéder aux fichiers de Cambridge Analytica avant Facebook montre que les géants des médias sociaux ont le dessus, concernant la manière dont nos données personnelles sont traitées.

Facebook vient de déplacer 1,5 milliard d'utilisateurs de son siège international en Irlande vers la Californie pour éviter des amendes pouvant atteindre 4 % de son chiffre d'affaires mondial, s'il enfreint les nouvelles règles de protection des données qui entrent en vigueur en Europe le 25 mai, 2018. Clairement, nous ne sommes pas encore tous dans le même bateau. Le public est tenu dans l'ignorance de la manière dont les données sont manipulées pour influencer nos choix, attitudes et comportements. Si la personnalisation doit être un avantage - et non une malédiction - les utilisateurs doivent avoir une voix plus forte, pour influencer la manière dont leurs données personnelles sont partagées.

Cet article a été initialement publié sur The Conversation. Lire l'article original.