Les données sont souvent appelées le pétrole du 21e siècle.

Plus les entreprises technologiques connaissent leurs utilisateurs, plus ils peuvent les orienter efficacement vers les biens et services qu'ils sont susceptibles d'acheter. Plus les entreprises connaissent leurs utilisateurs, plus ils sont compétitifs sur le marché.

Le capitalisme sur mesure est ce qui a fait de Google, Facebook, Amazon et d'autres les entreprises les plus riches du monde. Cette incitation au profit a transformé la grande technologie en un domaine compétitif de collecte de renseignements de masse. Plus les données sont bonnes et complètes, les bénéfices plus élevés seront.

Mais ce modèle commercial - ce que je considère comme des machines d'espionnage - a un énorme potentiel de violation des libertés civiles. Les grandes technologies sont déjà utilisées à l'étranger pour renforcer le pouvoir des régimes répressifs, comme mon travail et celui des autres l'ont montré.

Bien que ce ne soit pas actuellement une menace directe pour la démocratie américaine, Je crains que le potentiel d'abus futurs existe tant que la grande technologie reste largement non réglementée.

Les machines d'espionnage de Big Tech

L'actualité regorge d'exemples d'abus de données. En avril, NBC News a publié une histoire détaillant comment le PDG de Facebook, Mark Zuckerberg, avait utilisé les données recueillies par la plateforme pour soutenir ses amis et vaincre ses rivaux.

Ce n'est pas le premier cauchemar de Facebook en matière de relations publiques. En 2018, la société de données Cambridge Analytica a utilisé une application Facebook pour collecter les profils de données de plus de 87 millions de personnes, qui a ensuite été utilisé pour diffuser de la publicité politique ciblée pendant les élections.

Facebook n'est pas seul dans le boom de la collecte de données. Ceci peut, il a été révélé que les employés de Snapchat utilisaient les données de l'application pour obtenir des données de localisation, photos et adresses e-mail sans le consentement des utilisateurs. Un nouveau livre de l'ancienne professeure de commerce de Harvard Shoshana Zuboff décrit en détail les pratiques de ce qu'elle appelle le « capitalisme de surveillance ». Zuboff écrit, "Une fois que nous avons cherché sur Google. Maintenant, Google nous recherche."

La pratique va au-delà des goûts musicaux de quelqu'un ou de ce qu'il achète sur Amazon. Les applications créées pour aider les personnes atteintes de maladie mentale ou pour arrêter de fumer vendent des données à de grandes entreprises technologiques. Ces utilisateurs pourraient être des cibles potentielles de stigmatisation sociale ou de publicité ciblée qui aggrave les problèmes de santé au lieu de les résoudre.

En décembre, les New York Times a publié un exposé sur ce que l'on peut apprendre sur quelqu'un en utilisant ses données collectées à partir d'applications et de smartphones. En mélangeant le suivi de localisation avec d'autres comportements en ligne, les chercheurs ont pu dresser un portrait détaillé des détails les plus intimes de la vie des utilisateurs, comme l'endroit où leurs enfants vont à l'école ou qui trichait sur leur régime alimentaire. Ils pourraient même dire dans quelle zone d'une centrale nucléaire un individu travaillait – des informations qui sont généralement classifiées.

A cause de ces révélations, les données collectées par les grandes technologies posent un problème de sécurité nationale. Un chercheur open source a utilisé les données de Strava, une application de remise en forme, pour cartographier les bases militaires américaines dans le monde alors que les soldats suivaient leurs courses. Nos appareils indiquent constamment aux entreprises où nous sommes et ce que nous faisons. Ce n'est pas toujours une bonne chose.

Pour les pires scénarios, regarder à l'étranger

La grande technologie est un secteur très non réglementé de l'économie. Les réglementations existantes ont eu du mal à suivre le rythme d'un secteur technologique qui innove rapidement. Dans certains scénarios, Les capacités des grandes technologies sont utilisées par les dictateurs pour créer une réalité numérique dystopique.

Les gouvernements autocratiques du monde entier ont déjà commencé à utiliser les technologies émergentes pour violer les droits humains. La Chine est un excellent exemple. La Chine intègre l'IA, des données biométriques et des activités en ligne pour suivre et surveiller les dissidents et les membres des communautés ethniques minoritaires, qui sont ensuite envoyés dans des camps de rééducation.

Depuis que je fais des recherches sur les façons dont la Russie utilise ces plateformes pour menacer la démocratie, Je connais les pires scénarios des capacités des grandes technologies. Parce que le succès des plateformes repose sur la viralité de l'information, le contenu le plus réussi peut aussi être l'un des plus controversés. La Russie estime qu'en diffusant suffisamment de fausses informations sur les domaines les plus incendiaires de la politique américaine, il peut semer le chaos dans le système. La grande technologie est le point d'entrée idéal pour de telles campagnes.

Si les attaques russes sur les réseaux sociaux sont combinées à la technologie de l'IA, les attaques d'informations pourraient devenir guidées par la précision. Des acteurs infâmes pourraient rassembler les profils complets que le capitalisme de surveillance a compilés au fil des ans. Les fake news ne parleraient alors plus de problèmes mais d'individus, faire appel à ce qui fait changer d'avis l'utilisateur.

Si une entreprise technologique monopolistique décidait d'exploiter pleinement sa capacité à espionner ses utilisateurs et à exploiter ces données à des fins personnelles ou politiques, les conséquences pour la démocratie pourraient être catastrophiques. Les Américains ont eu un avant-goût de ce à quoi ressemble une attaque d'influence lors de l'élection présidentielle américaine de 2016. Tant que la grande technologie reste largement non réglementée, les futures attaques d'influence contre les élections américaines n'en seront que plus puissantes.

La grande technologie ne va nulle part

Une solution superficielle à ce dilemme de confidentialité serait que les gens dissocient leur vie en ligne de ces entreprises.

Par exemple, DuckDuckGo est un moteur de recherche alternatif qui ne compile pas les données des utilisateurs et promet une confidentialité totale. Un nouveau navigateur, Courageux, a promis de rembourser les utilisateurs pour la vente de données aux annonceurs.

Cependant, ces produits sont loin d'être aussi utiles pour un internaute occasionnel que Google. Choisir de ne pas utiliser Google n'est pas si simple.

Bien qu'il existe de nombreuses entreprises différentes en question, ils détiennent tous un contrôle quasi monopolistique sur leur part de marché. Amazon domine les achats en ligne. Facebook domine l'interaction avec les amis et les causes. Google domine la navigation sur le Web.

Les individus sont ainsi confrontés à un choix :changer radicalement leur mode de vie et leurs interactions avec le monde, ou continuer à être la cible des machines d'espionnage des grandes technologies.

La surveillance et la réglementation peuvent sembler dramatiques et anti-croissance en ce moment, mais je crois qu'il s'agit d'un contrôle nécessaire sur la grande technologie, avant que le pire de ses potentiels ne se réalise.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.