J'ai récemment assisté à une grande réunion du corps professoral pour discuter de l'évaluation des étudiants diplômés, recrutement et rétention.

"Laissez les données guider vos objectifs, " répéta l'un des orateurs, comme un mantra – avec un enthousiasme et une conviction sincères – et je n'ai pas pu m'empêcher de grimacer.

Le slogan m'a semblé symptomatique de ce que la psychologue sociale Shoshana Zuboff a qualifié de « coup des gens ».

Si un coup d'État signifie le remplacement illégal d'un système politique par un autre, un coup des gens – « gens » signifiant « peuple » en français – se caractérise par le remplacement forcé des êtres humains par des systèmes d'information abstraits.

Dans mon dernier livre, "Le moi terminal, " Je montre comment nous sommes de plus en plus contraints d'interagir avec la technologie informatique dans tous les aspects de notre vie quotidienne. Parmi de nombreux autres effets, cette interaction forcée nous oblige à synchroniser nos fonctions cognitives avec la logique de l'ordinateur et à l'alimenter en flux infinis de données, nous rendant mûrs pour une surveillance et une exploitation constantes.

Gérer les flux du « nouveau pétrole »

Les données sont désormais utilisées par les entreprises pour les aider à évaluer, rang, sélectionner ou rejeter des clients potentiels. Il peut être utilisé pour mesurer le risque médical, solvabilité, santé psychologique, rendement au travail, habitudes de dépenses, préférences alimentaires, humeurs, préférences de rencontres et opinions politiques.

Comme l'a dit la commissaire européenne aux consommateurs Meglena Kuneva, « les données personnelles sont le nouveau pétrole d'Internet et la nouvelle monnaie du monde numérique ».

La haute valeur accordée aux données a inauguré ce que le sociologue français Paul Virilio appelle un « fondamentalisme informationnel » - une idéologie qui exalte l'information numérique comme le bien ultime et le pouvoir suprême auquel tous doivent abandonner leur volonté, temps et bon sens.

Afin de fonctionner efficacement, la plupart des institutions doivent gérer intelligemment ces flux de données gonflés. Cependant, la capacité technologique à gérer de grandes quantités de données ne conduit pas nécessairement à une analyse intelligente.

Au contraire, note Mark Andrejevic, spécialiste des études sur les médias, "Nous sommes devenus des analystes du renseignement triant plus de données que nous ne pouvons en absorber." Les individus n'ont tout simplement pas la matière grise nécessaire pour passer au crible les flux d'informations en constante augmentation qu'ils doivent traiter et extraire pour prendre des décisions intelligentes.

Une part croissante de notre vie quotidienne nécessite non seulement de traiter les "bombes d'information" - les e-mails, messages, les dernières nouvelles et les annonces - qui explosent au hasard dans notre vie quotidienne. Cela exige également que nous saisissions constamment des informations dans le système.

Pensez au nombre croissant de travailleurs du savoir et de professionnels dans différents secteurs de l'économie qui sont essentiellement devenus des assistants de saisie de données. Leurs métiers consistent avant tout à fournir toujours plus d'informations à un organisme numérique toujours plus affamé, pour des raisons qui semblent évidentes mais sont rarement remises en cause.

Nous le voyons dans les données de niveau granulaire que de nombreux enseignants des écoles publiques sont désormais censés saisir sur tous les aspects de l'apprentissage de leurs élèves. Nous le voyons dans l'infini, et souvent imparfait, des sondages que des professionnels de tous bords sont invités à remplir sur leurs tâches quotidiennes, progrès et "satisfaction".

Ce travail de saisie de données abrutissant déqualifie les travailleurs du savoir, les aliène et trahit une tragique mauvaise gestion du capital humain.

Le cheval de Troie numérique

Si l'obligation de saisir des informations est ouvertement appliquée au travail, c'est secrètement provoqué à la maison. Chaque fois que nous naviguons tranquillement sur Internet, consultation de sites Web, en cliquant sur des liens ou en partageant nos photos, politique et préférences, nous produisons également – ​​involontairement et involontairement – ​​des volumes gigantesques d'informations. D'autres invisibles récoltent alors avidement, boutique, organiser et vendre ces données à des fins de contrôle social, persuasion et modification du comportement.

"Sur Google, vous êtes ce que vous cliquez. Sur Facebook, tu es ce que tu partages, " écrit Eli Pariser, PDG d'Upworthy.

Cette extraction d'informations numériques peut influencer de vraies vies humaines. Dans son analyse approfondie de la surveillance des entreprises dans la vie quotidienne, Wolfe Christl, spécialiste de la culture numérique, avertit que les sociétés d'exploration de données utilisent des données personnelles pour prendre automatiquement des décisions concernant les personnes qui peuvent aggraver les inégalités existantes.

Par exemple, Christl montre comment des sociétés d'analyse de la santé comme GNS Healthcare collectent d'énormes quantités de données issues de la génomique, dossiers médicaux, données de laboratoire et appareils de santé mobiles pour fournir des informations sur les utilisateurs aux compagnies d'assurance maladie. Ces entreprises peuvent alors manipuler de manière significative les coûts de l'assurance maladie pour différentes catégories de candidats.

De la même manière, il souligne que les données recueillies sur la stabilité émotionnelle de quelqu'un, le bonheur et la probabilité d'avoir un bébé peuvent influencer leur embauche, conservés ou promus.

Avec des algorithmes déplaçant de plus en plus les humains dans ce type de prise de décision, le sort des citoyens est de plus en plus déterminé par les systèmes d'information. Comme l'explique Zuboff, c'est une tendance qui réduit les gens à des sources d'extraction de données et à des cibles d'exploitation.

L'aspect le plus déconcertant de cette situation n'est pas les capacités de surveillance elles-mêmes, aussi intimidants soient-ils. C'est notre soumission tacite à un régime de surveillance constante et à distance qui – sauf dans les films d'espionnage ou les délires paranoïaques – aurait été considéré comme absurde il y a quelques décennies.

Plus inquiétant, dans une interview de 2017 sur "60 Minutes, " L'ancien directeur marketing de Google, Tristan Harris, a expliqué les motivations insidieuses de la collecte de données :les entreprises technologiques n'essaient pas seulement de trouver des informations sur les utilisateurs pour les vendre à des entreprises qui souhaitent vendre des marchandises. " des programmes qui collectent les informations les plus précises sur ce qui fait vibrer les utilisateurs émotionnellement et ce qui retient leur attention.

L'objectif est de manipuler les réactions émotionnelles des utilisateurs – à distance et au niveau neuronal. Entre de mauvaises mains, ce genre de manipulation peut être utilisé non seulement pour vendre des trucs aux gens, mais aussi d'influencer leurs décisions politiques. Selon le politologue Collin Bennett, ce projet est bien avancé.

Accès refusé

Pour ajouter l'insulte à la blessure, il est presque impossible pour les utilisateurs de détecter quelles informations les concernant sont collectées, qui les collectionne et ce qu'ils en font.

Chaque balayage sur l'écran d'un smartphone et chaque message tapé sont enregistrés en tant que « signaux » qui aident à mieux comprendre la personnalité d'un utilisateur, intérêts, humeur et santé financière. Les cotes de crédit des amis Facebook d'un utilisateur peuvent même être utilisées pour calculer leur propre solvabilité. En raison de l'anonymat complet des agences qui collectent et utilisent ces données, il est irréaliste d'espérer que l'on puisse corriger – et éviter les conséquences – des erreurs qui émergent inévitablement dans le « profil » de quelqu'un.

C'est pénible de se sentir surveillé unilatéralement, impuissant et mal informé. Selon une étude, ceux qui se rendent compte que leur vie privée a été exposée sans leur consentement éprouvent « des émotions, des réponses psychanalytiques et corporelles parfois d'une profondeur abrutissante."

Mais cette surveillance est aussi une forme d'exploitation.

Après tout, c'est nous qui produisons ces informations. C'est nous qui sacrifions de plus en plus notre temps pour lire les directives du site Web, regarder des vidéos pédagogiques, remplir des formulaires numériques, transmettre des informations, soutenir les réseaux sociaux numériques et générer des informations précieuses sur nous-mêmes pour que les autres puissent les utiliser.

Ceux qui génèrent cette valeur ne devraient-ils pas avoir plus de contrôle sur les conditions de sa production, vendre, diffusion et utilisation ? Et si ce droit ne peut être accordé en raison de difficultés technologiques inextricables, ne faudrait-il pas imposer le même niveau de transparence à ceux qui collectent, le vendre et l'utiliser ?

Le régime de l'algorithme

La dépendance croissante à l'information, la normalisation de la surveillance et l'utilisation croissante des systèmes d'information pour prendre des décisions importantes concernant la vie des citoyens équivaut à un « coup des gens ».

Cependant, la démocratie exige la vie privée, et la liberté implique la protection contre l'invasion, que ce soit physique ou numérique. Dans son célèbre traité sur le quatrième amendement, Le juge de la Cour suprême Brandeis a fait valoir que « le droit d'être laissé seul » est « le droit le plus apprécié par les hommes civilisés » et est « fondamental pour une société libre et civile ».

Les citoyens adultes d'une société démocratique devraient avoir le droit de décider quel type d'informations est collecté à leur sujet, qui peut utiliser ces informations et comment ils peuvent les utiliser. Ils devraient avoir le droit de vérifier que ces informations sont exactes et, quand ce n'est pas le cas, pour le corriger. Ils devraient avoir le droit – et la responsabilité – de remettre en cause cette dépendance boulimique pour les données et sa finalité ultime.

Comme l'écrit Dave Eggers dans son roman « The Circle, " "La recherche incessante de données pour quantifier la valeur de tout effort est catastrophique pour une véritable compréhension."

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.