Le modèle économique d'Uber est incroyablement simple :c'est une plateforme qui facilite les échanges entre les personnes. Et Uber y réussit incroyablement bien, éliminant presque les coûts de transaction liés aux activités commerciales dans tous les domaines, des navettes aux gens en ville à la livraison de nourriture.

C'est l'une des raisons pour lesquelles Uber fera bientôt partie des entreprises les plus valorisées au monde après que ses actions ont commencé à être négociées à la Bourse de New York le 10 mai.

Pourtant, sa capitalisation boursière attendue de 82,4 milliards de dollars US peut être dérisoire par rapport à la richesse des données utilisateur qu'elle accumule. Si vous utilisez Uber - ou peut-être même si vous ne l'utilisez pas - il connaît un trésor de données vous concernant, y compris votre emplacement, genre, l'historique des dépenses, Contacts, niveau de batterie du téléphone et même si vous rentrez chez vous après une aventure d'un soir. Il saura peut-être bientôt si vous êtes ivre ou non.

Même si c'est assez effrayant, combinez toutes ces données avec l'expertise d'Uber pour les analyser à travers le prisme de la science du comportement et vous avez un potentiel dangereux d'exploiter les utilisateurs à des fins lucratives.

Uber n'est pas seul. Notre recherche montre les plus grandes plateformes numériques – Airbnb, Facebook, eBay et d'autres – recueillent tellement de données sur notre façon de vivre, qu'ils ont déjà la capacité de manipuler leurs utilisateurs à grande échelle. Ils peuvent prédire le comportement et influencer nos décisions sur l'endroit où cliquer, partager et dépenser.

Bien que la plupart des plates-formes n'utilisent pas encore toutes ces fonctionnalités, la manipulation par des techniques de psychologie comportementale peut se produire tranquillement et laisser peu de traces. Si nous n'établissons pas de règles de la route maintenant, il sera beaucoup plus difficile à détecter et à arrêter plus tard.

« Architecture de choix »

Une plateforme peut être n'importe quel espace qui facilite les transactions entre acheteurs et vendeurs. Les exemples traditionnels incluent les marchés aux puces et les salles de marché.

Une plate-forme numérique sert le même objectif, mais donne au propriétaire la possibilité de « médier » ses utilisateurs pendant qu'ils l'utilisent – ​​et souvent quand ils ne l'utilisent pas. Nous entendons par là qu'il peut observer et apprendre une quantité incroyable d'informations sur le comportement des utilisateurs afin de perfectionner ce que les spécialistes du comportement appellent « les architectures de choix, " éléments de conception discrets destinés à influencer le comportement humain à travers la façon dont les décisions sont présentées.

Par exemple, Uber a expérimenté avec ses chauffeurs pour déterminer les stratégies les plus efficaces pour les garder sur la route le plus longtemps possible. Ces stratégies incluent de jouer sur les biais cognitifs tels que l'aversion aux pertes et la surestimation d'événements à faible probabilité, même si une conductrice gagne à peine assez d'argent pour que cela en vaille la peine. Les conducteurs finissent comme des joueurs dans un casino, poussé à jouer un peu plus longtemps malgré les probabilités.

Uber n'a pas immédiatement répondu à une demande de commentaire.

Airbnb expérimente également avec ses utilisateurs. Il a utilisé la science du comportement pour amener les hôtes à baisser leurs tarifs et à accepter les réservations sans filtrer les clients - ce qui crée de réels risques pour les hôtes, surtout lorsqu'ils partagent leur propre appartement.

Bien que ces exemples semblent relativement bénins, ils montrent comment les plates-formes numériques sont capables de concevoir en toute discrétion des systèmes pour diriger les actions des utilisateurs de manière potentiellement manipulatrice.

Et à mesure que les plateformes grandissent, ils ne deviennent que de meilleurs architectes de choix. Avec l'énorme afflux d'argent des investisseurs de son introduction en bourse pour financer plus de données et de science comportementale, Uber pourrait entrer dans un territoire dangereusement contraire à l'éthique – facile à imaginer compte tenu de ses pratiques passées.

Par exemple, si l'application reconnaît que vous êtes en état d'ébriété ou que vous vous trouvez dans un quartier où vous vous rendez rarement - et que ses données montrent que la criminalité est élevée - elle pourrait vous facturer un taux plus élevé, sachant qu'il est peu probable que vous refusiez.

Défis juridiques

Et ce n'est pas que spéculation.

Afin de tromper les forces de l'ordre qui tentent d'enquêter sur l'entreprise, Uber a en fait trouvé un moyen d'identifier les régulateurs gouvernementaux essayant d'utiliser son application, puis les a empêchés de se déplacer.

C'est l'une des raisons pour lesquelles les législateurs et les régulateurs ont discuté de la difficulté, rôles interdépendants de la science du comportement et de la technologie pendant des années. Et certaines entreprises, Uber en particulier, ont fait l'objet d'une enquête pour une multitude de mauvaises pratiques commerciales, de la discrimination à l'utilisation abusive des données des utilisateurs.

Mais la plupart des manipulations que nous avons identifiées et dont nous nous inquiétons ne sont pas expressément illégales. Et parce que les régulateurs sont souvent incapables de suivre le rythme de l'utilisation en constante évolution de la technologie et de l'architecture de choix, cela risque de le rester.

Compte tenu de l'absence de garde-fous juridiques bien définis et exécutoires, La propension des sociétés de plateformes à exploiter la science du comportement aux dépens des utilisateurs restera largement incontrôlée.

Un code éthique

Une solution, dans notre vision, est en train d'établir un code éthique que les entreprises de plateformes doivent suivre. Et s'ils ne l'adoptent pas volontairement, investisseurs, les employés et les utilisateurs pourraient l'exiger.

Depuis le milieu du 20e siècle, les codes écrits de conduite éthique ont été un élément de base des entreprises américaines. Les professions juridiques et médicales s'en remettent à eux depuis des millénaires. Et la recherche suggère qu'ils sont efficaces pour encourager un comportement éthique dans les entreprises.

Nous avons examiné des centaines de codes éthiques, y compris ceux destinés aux entreprises technologiques et informatiques. Sur la base de nos recherches, nous exhortons les plateformes numériques à adopter cinq lignes directrices éthiques :

1. Toute architecture de choix utilisée sur une plate-forme doit être totalement transparente. Les plateformes devraient divulguer quand elles utilisent les outils de la science du comportement pour influencer le comportement des utilisateurs
2. Les utilisateurs doivent pouvoir faire des choix sur la plate-forme librement et facilement, et les architectes de choix devraient limiter les interventions comportementales aux rappels ou aux invites les moins préjudiciables à l'autonomie de l'utilisateur
3. Les plates-formes devraient éviter de « pousser » les utilisateurs de manière à exploiter une prise de décision inconsciente et irrationnelle basée sur des impulsions et des émotions. De nouvelles recherches montrent qu'une architecture de choix transparente peut tout aussi bien fonctionner
4. Les plateformes doivent reconnaître le pouvoir qu'elles possèdent et veiller à ne pas exploiter les marchés qu'elles ont créés, y compris en abusant des asymétries d'information entre eux-mêmes et les utilisateurs ou en s'opposant à des réglementations raisonnables
5. Les plates-formes doivent éviter d'utiliser une architecture de choix qui décourage les utilisateurs d'agir dans leur propre intérêt. Comme l'a dit l'économiste comportementaliste lauréat du prix Nobel Richard Thaler, nous devrions seulement « pousser pour de bon ».

Les grandes technologies et les sciences du comportement sont désormais intégrées de manière à assurer le succès des entreprises, des brosses à dents bourdonnantes qui rendent le nettoyage des dents gratifiant à l'utilisation de textes pour inciter les mères les plus pauvres à utiliser les soins de santé.

Bien que les résultats puissent considérablement améliorer nos vies, cela permet également aux entreprises de manipuler plus facilement les utilisateurs pour améliorer leurs résultats.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.