Il y a trois ans, lorsque les utilisateurs de Facebook Messenger ont ouvert l'application sur un appareil Android, ils ont été accueillis par un adorable yéti de bande dessinée. Il a été montré en train d'envoyer un SMS à un gros cœur rose. Dessous, une invite disait:"Envoyez un SMS à n'importe qui dans votre téléphone."

La conception semblait anodine - amicale, même. Les clients avaient deux choix :appuyez sur le bouton « activer » en surbrillance, qui donnerait à Facebook l'accès aux contacts, historique des appels et SMS, ou appuyez sur le bouton grisé "pas maintenant".

Des millions ont tapé "allumer".

Cette semaine, ces utilisateurs ont appris que Facebook non seulement collectait leurs historiques d'appels et de SMS, il aurait également conservé cette information. La révélation a provoqué la panique chez certains clients, s'ajoutant à la méfiance croissante des consommateurs envers le réseau social face aux enquêtes du Congrès et à une enquête de la Federal Trade Commission sur la mauvaise gestion des informations personnelles de 50 millions de clients.

Facebook a déclaré le week-end dernier que les clients devaient opter pour la fonction de SMS et, donc, savaient qu'ils remettaient leurs données. Ce qu'il n'a pas dit, c'est que ces utilisateurs étaient tous soumis à une stratégie de conception sophistiquée courante dans l'industrie technologique, une stratégie qui incite les utilisateurs à faire ce que les entreprises veulent qu'ils fassent.

« Dans les produits numériques, chaque action que les utilisateurs effectuent est toujours dirigée vers un certain type d'objectif, " dit Caspar Lam, professeur assistant en design de communication à la Parsons School of Design de la New School de New York.

Pour un site marchand, l'objectif pourrait être de conclure une transaction. Sur un site d'actualités, il peut s'agir d'amener les gens à s'inscrire à une newsletter ou à s'abonner. Et sur les réseaux sociaux, c'est pour s'inscrire, connexion, Comme, partager, piquer ou commenter, chacun offrant à l'entreprise plus de données pouvant être utilisées pour vendre de la publicité ciblée.

A présent, la plupart des consommateurs comprennent que la collecte de données est un élément essentiel des entreprises basées sur la publicité telles que Facebook, Google et Snapchat. La pratique peut souvent être une aubaine pour les consommateurs :plus les gens partagent avec les entreprises, mieux ils sont capables de diffuser des annonces, Résultats de recherche, des recommandations de produits et des suggestions de musique et de films adaptées aux goûts d'un individu.

Pourtant, beaucoup ignorent le type de données collectées et ce que les entreprises en font. Bien que les réponses se trouvent souvent dans les politiques de confidentialité et les accords sur les conditions d'utilisation, peu prennent le temps de les examiner. Un sondage Deloitte de 2017 a révélé que plus de 90 % des personnes acceptaient les conditions générales sans les lire.

Le problème n'est pas que Facebook et d'autres entreprises n'obtiennent pas le consentement des utilisateurs ou qu'ils ne divulguent pas de détails sur les données qu'ils collectent, disent les critiques de design. C'est que lorsque les entreprises demandent le consentement, ils utilisent des interfaces conçues pour amener les utilisateurs à s'inscrire sans arrière-pensée.

La campagne yeti de Facebook n'est qu'une des nombreuses stratégies de conception que le réseau social a utilisées pour guider les utilisateurs à cliquer ou à appuyer sur un certain bouton.

Ce n'est pas un hasard, par exemple, que les notifications Facebook sont rouge vif, une couleur qui attire l'attention.

Ce n'est pas non plus par hasard que l'entreprise a créé une invite demandant un accès à long terme à l'ensemble de l'historique des appels et des SMS des utilisateurs avec un yéti de dessin animé désarmant.

Même la langue utilisée :activez » et « pas encore, " par opposition à " oui " ou " non - joue sur la psychologie de l'utilisateur.

Dans ce cas, refuser de transmettre des données a été présenté simplement comme « retarder l'inévitable, " a déclaré Mayo Nissen, directeur de création associé à l'agence de design Frog.

"Il ressort clairement de ces options que Facebook essayait d'encourager les utilisateurs à activer la fonctionnalité en question, et essentiellement définir la question comme n'ayant qu'une seule réponse correcte, ", a déclaré Nissen.

Ces tactiques de conception sont si efficaces que les consommateurs ne réalisent souvent pas qu'ils sont en jeu. Lam l'a comparé à la façon dont une nourriture d'apparence délicieuse opère sur notre subconscient :lorsque nous regardons un plat attrayant, nos esprits ne décomposent pas les composants individuels qui le rendent appétissant. Plutôt, c'est l'ensemble qui agit sur nos sens. Il en va de même pour les logiciels et les sites Web que nous utilisons. Les concepteurs utilisent la couleur, images, formes, taille des boutons, le placement et le langage pour diriger les utilisateurs vers certaines actions.

Ces décisions de conception peuvent souvent être utiles. Dans une application bancaire, les consommateurs pourraient vouloir que les concepteurs leur facilitent autant que possible le paiement de leurs factures. Dans un programme de messagerie, les consommateurs ne veulent pas passer toute la journée à chercher le bouton « composer ».

Où sophistiqué, la conception contrôlant le comportement devient un problème lorsque les concepteurs ne considèrent pas les conséquences plus larges de leur travail, disent les experts de l'industrie.

Dans l'industrie technologique, les équipes de conception sont souvent hyper-concentrées sur la réalisation d'un objectif particulier, dit Sara Wachter-Boettcher, auteur de « Mauvaise technique :applications sexistes, Algorithmes biaisés, et d'autres menaces de technologie toxique. » De telles équipes demandent souvent, « Qu'est-ce que nous essayons d'amener les gens à faire avec ce produit ? Comment pouvons-nous amener les gens à faire cette chose ? » », a déclaré Wachter-Boettcher. « Quand les gens sont hyper concentrés sur cet objectif, ils perdent de vue les conséquences négatives potentielles."

C'est ainsi que Sophie Xie, designer chez Facebook de 2012 à 2013, a décrit son expérience de travail sur la fonction de textos controversée. Dans une entreprise aussi grande et stratifiée que Facebook, les designers comme elle étaient souvent informés d'un objectif, mais ne disposaient que de peu de temps pour en comprendre la portée plus large.

"D'un côté, votre objectif principal est de faire aboutir le projet, pour bien faire votre travail, " dit Xie, qui était responsable de la direction artistique des autocollants, y compris le yéti, que Facebook a ensuite utilisé dans ses messages de sécurité et de confidentialité. « Ensuite, il y a le but ambiant, lequel est, faites-vous la bonne chose?

"Si vous tirez sur ce fil, cela vous amène à remettre en question chaque objectif qui vous est proposé. Et puis vous êtes dans une impasse où il est difficile de trouver une voie à suivre si chaque objectif de produit vous amène à vraiment vous remettre en question et creuser. »

Xie a quitté Facebook après un an et est maintenant un designer indépendant, une décision qu'elle a prise parce qu'elle a dit qu'elle voulait plus de contrôle sur les types de projets sur lesquels elle travaille. Le travail qu'elle a fait pour Facebook continue de lui peser, bien que.

Facebook n'a pas répondu à une demande de commentaire.

Un refrain courant des critiques de la Silicon Valley est que les ingénieurs se demandent souvent s'ils peuvent faire quelque chose mais oublient de demander s'ils le devraient. Les concepteurs pourraient se poser une question similaire, dit Erika Hall, philosophe et co-fondateur de l'agence de design Mule. Ils devraient également se demander :qu'est-ce que je sers ? Qui est mon maître ? Qui est payé par qui ?

« Les designers étaient censés être les personnes les plus à même de faire les bons choix, ", a déclaré Hall. "Mais vous ne pouvez pas faire un bon design si vous travaillez au service d'un mauvais modèle commercial."

Si l'objectif d'une entreprise est d'augmenter les inscriptions afin de pouvoir collecter des données sur les utilisateurs afin de pouvoir vendre des publicités afin de répondre aux attentes de Wall Street afin d'apaiser les actionnaires afin d'augmenter le cours de son action, un designer travaillant dans ces limites favorisera inévitablement la croissance de l'entreprise, dit Hall.

rendre les choses plus difficiles, la nature intangible des logiciels et de la conception Web signifie qu'il est difficile de critiquer, et encore plus difficile d'appeler une entreprise lorsqu'elle a commis une conception contraire à l'éthique. Dans un domaine comme l'architecture, les critiques peuvent parler de l'esthétique d'un bâtiment physique, fonction et impact social, dit Hall. Si un bâtiment est mauvais pour la communauté, c'est difficile à ignorer. Dans le logiciel, cependant, les problèmes ne sont souvent évidents que bien plus tard, lorsque le mal est déjà fait.

La solution à cela, selon Hall et Wachter-Boettcher, est à trois volets.

"Le premier point de départ est de sensibiliser les designers, " dit Hall.

partenaire commercial de Hall, le designer Mike Monteiro, a déclaré aux concepteurs lors d'une conférence il y a cinq ans qu'"il ne faut pas de malice pour amener un mauvais design dans le monde, " dit-il. " Tout ce qu'il faut, c'est de l'insouciance. "

"Le problème avec les designers et l'éthique, c'est qu'ils le voient comme quelque chose à rechercher et peut-être à intégrer dans leur travail, mais ils ne le voient pas comme essentiel à ce qu'ils font, " Monteiro a déclaré. " En tant que concepteurs, nous devrions considérer cela comme faisant partie du travail. "

La seconde consiste à demander aux entreprises de réévaluer leur culture et de valoriser la conception éthique autant qu'elles valorisent le profit.

"Si vous pouvez tuer toutes les conversations sur l'éthique en mentionnant simplement vos marges bénéficiaires, alors tu n'as pas d'éthique, " Wachter-Boettcher a déclaré. "Ils n'existent pas."

Le troisième est une réglementation externe plus stricte, auxquels des entreprises telles que Facebook pourraient être confrontées après sa récente série de violations de la confiance des consommateurs. (Facebook a accepté en 2011 un décret de consentement de la FTC dans lequel il a promis d'être transparent avec les utilisateurs sur les données qu'il a collectées.)

Comme monté sous pression, le réseau social a annoncé cette semaine qu'il permettra aux clients de trouver et de gérer plus facilement leurs paramètres de confidentialité. La nouvelle page de confidentialité est décorée d'humains de dessins animés aux couleurs pastel. Il y a de gros, clear buttons encouraging users to "manage security" and "manage privacy." Facebook said in its announcement that it wants to give users control of their information. It's calling the changes a redesign.

©2018 Los Angeles Times
Distribué par Tribune Content Agency, LLC.