Nous nous souvenons peut-être de 2018 comme de l'année où le potentiel dystopique de la technologie est devenu clair, du rôle de Facebook permettant la récolte de nos données personnelles pour l'ingérence électorale à une série apparemment interminable de révélations sur le côté obscur de la philosophie de tout connecter de la Silicon Valley.

La liste est longue :des outils de haute technologie pour la répression de l'immigration. Craintes d'addiction aux smartphones. Des algorithmes YouTube qui poussent les jeunes vers l'extrémisme. Une expérience sur des bébés génétiquement modifiés.

Des sonnettes et des salles de concert qui peuvent localiser des visages individuels et alerter la police. Réutiliser des sites Web de généalogie pour rechercher des suspects de crime sur la base de l'ADN d'un parent. Des systèmes automatisés qui gardent un œil sur les mouvements et les habitudes des travailleurs. Des voitures électriques à Shanghai transmettant chacun de leurs mouvements au gouvernement.

Cela a suffi à épuiser même les visionnaires de science-fiction les plus imaginatifs.

"On n'a pas tellement l'impression de vivre dans le futur maintenant, que nous vivons dans un rétro-futur, " Le romancier William Gibson a écrit ce mois-ci sur Twitter. " Un sombre, rétro-futur maladroit des années 90."

Plus nous attend en 2019, à mesure que les efforts de surveillance et de collecte de données s'intensifient et que les systèmes d'intelligence artificielle commencent à paraître plus humains, lire des expressions faciales et générer de fausses images vidéo si réalistes qu'il sera plus difficile de détecter des distorsions malveillantes de la vérité.

Mais il existe également des contre-mesures au Congrès et au gouvernement des États, et même parmi les employés des entreprises technologiques qui sont plus actifs pour s'assurer que leur travail est mis à profit.

"Ce qui était encourageant cette année, c'est qu'accompagner ce défilé de scandales était une prise de conscience croissante du public qu'il y a une crise de responsabilité dans la technologie, " a déclaré Meredith Whittaker, co-fondateur de l'AI Now Institute de l'Université de New York pour étudier les implications sociales de l'intelligence artificielle.

Le groupe a compilé une longue liste de ce qui a rendu 2018 si inquiétant, bien que beaucoup soient des exemples du public prenant simplement conscience de problèmes qui se sont accumulés pendant des années. L'un des cas les plus troublants a été la révélation en mars que la société d'exploration de données politiques Cambridge Analytica a balayé les informations personnelles de millions d'utilisateurs de Facebook dans le but de manipuler les élections nationales.

"Cela a vraiment aidé à réveiller les gens sur le fait que ces systèmes touchent en fait le cœur de nos vies et façonnent nos institutions sociales, ", a déclaré Whittaker.

C'était en plus des autres catastrophes de Facebook, y compris son rôle dans la fomentation de la violence au Myanmar , des violations majeures de données et des inquiétudes persistantes concernant son hébergement de faux comptes pour la propagande russe.

Ce n'était pas seulement Facebook. Google s'est inquiété de sa surveillance continue des utilisateurs après que l'Associated Press ait signalé qu'il suivait les mouvements des gens, qu'ils le veuillent ou non.

Il a également fait face à une dissidence interne sur sa collaboration avec l'armée américaine pour créer des drones dotés d'une "vision par ordinateur" pour aider à trouver des cibles sur le champ de bataille et une proposition secrète de lancer un moteur de recherche censuré en Chine. Et il a dévoilé un assistant vocal remarquablement humain qui semble si réel que les personnes à l'autre bout du fil ne savaient pas qu'elles parlaient à un ordinateur.

Ces préoccupations et d'autres ont fait surface en décembre lorsque les législateurs ont grillé le PDG de Google, Sundar Pichai, lors d'une audience au Congrès, une suite à des calculs publics similaires cette année avec le PDG de Facebook, Mark Zuckerberg, et d'autres dirigeants technologiques.

« Il était nécessaire de convoquer cette audition en raison du fossé grandissant de méfiance entre les entreprises technologiques et le peuple américain, ", a déclaré le chef de la majorité républicaine à la Chambre, Kevin McCarthy.

Le pionnier de l'Internet, Vint Cerf, a déclaré que lui et d'autres ingénieurs n'avaient jamais imaginé que leur vision d'un réseau mondial d'ordinateurs connectés se transformerait 45 ans plus tard en un système de surveillance qui collecte des informations personnelles ou une machine de propagande qui pourrait influencer les élections.

"Nous essayions juste de le faire fonctionner, " a rappelé Cerf, qui est maintenant l'évangéliste en chef de Google sur Internet. "Mais maintenant qu'il est entre les mains du grand public, il y a des gens qui ... veulent que ça marche d'une manière qui fait évidemment du mal, ou profite eux-mêmes, ou perturbe le système politique. Il va donc falloir gérer ça."

Contrairement aux craintes futuristes d'une prise de contrôle par des robots "super-intelligents", les vrais dangers de notre ère technologique se sont infiltrés de manière plus prosaïque, souvent sous la forme d'innovations technologiques que nous avons saluées pour rendre la vie plus pratique .

Une partie des inquiétudes des experts concernant le saut dans la connexion de chaque appareil domestique à Internet et en laissant les ordinateurs faire notre travail est que la technologie est toujours boguée et influencée par les erreurs humaines et les préjugés. Uber et Tesla ont fait l'objet d'une enquête pour des accidents mortels de voitures autonomes en mars, IBM a fait l'objet d'un examen minutieux pour avoir collaboré avec la police de la ville de New York à la création d'un système de reconnaissance faciale capable de détecter l'appartenance ethnique, et Amazon a été vivement critiqué pour avoir fourni son propre service de reconnaissance faciale défectueux aux forces de l'ordre.

Dans certains cas, l'opposition à la précipitation de l'industrie technologique à appliquer ses dernières innovations à des utilisations commerciales douteuses est venue de ses propres employés. Les employés de Google ont aidé à saborder le contrat de drone du Pentagone de l'entreprise, et les travailleurs d'Amazon, Microsoft et Salesforce ont cherché à annuler les contrats de leurs entreprises pour fournir des services technologiques aux autorités de l'immigration.

"Il est devenu évident pour beaucoup de gens que la rhétorique de faire le bien et de profiter à la société et" Ne soyez pas méchant " n'était pas ce que ces entreprises étaient réellement à la hauteur, " dit Whittaker, qui est également chercheur chez Google qui a fondé son groupe Open Research.

À la fois, même certains titans de la technologie ont sonné l'alarme. D'éminents ingénieurs et concepteurs ont de plus en plus parlé de protéger les enfants des produits technologiques qui créent des habitudes qu'ils ont contribué à créer.

Et puis il y a le président de Microsoft, Brad Smith, qui en décembre a appelé à réglementer la technologie de reconnaissance faciale afin que "l'année 2024 ne ressemble pas à une page" de "1984" de George Orwell.

Dans un article de blog et un discours à Washington, Smith a peint une vision sombre des systèmes de surveillance du gouvernement qui voient tout, forçant les dissidents à se cacher dans des pièces sombres "pour taper du code avec des signaux manuels sur les bras les uns des autres".

Pour éviter un tel scénario orwellien, Smith préconise de réglementer la technologie afin que toute personne sur le point de se soumettre à une surveillance soit correctement informée. Mais les défenseurs de la vie privée soutiennent que cela ne suffit pas.

De tels débats ont déjà lieu dans des États comme l'Illinois, où une loi stricte sur la reconnaissance faciale a été confrontée aux défis de l'industrie technologique, et la Californie, qui en 2018 a adopté la loi la plus ambitieuse du pays pour donner aux consommateurs plus de contrôle sur leurs données personnelles. Il prend effet en 2020.

La question pourrait faire l'objet d'une nouvelle attention au Congrès l'année prochaine alors que de plus en plus de républicains se réchauffent à l'idée de réglementations de base en matière de confidentialité en ligne et que la nouvelle majorité démocrate à la Chambre adopte une approche plus sceptique envers les entreprises technologiques que de nombreux politiciens libéraux considéraient autrefois comme des alliés et des donateurs de campagne prolifiques. .

L'approche "laissez-les tranquilles" du début de l'ère Internet ne fonctionnera plus, a déclaré le représentant David Cicilline, un démocrate du Rhode Island sur le point de prendre la tête du sous-comité antitrust de la Chambre.

"Nous voyons maintenant certaines des conséquences des abus qui peuvent se produire sur ces plateformes si elles restent non réglementées sans surveillance ou application significatives, " dit Cicilline.

Trop de réglementation peut entraîner ses propres effets secondaires indésirables, Cerf prévenu.

"C'est drôle d'une certaine manière parce que cet environnement en ligne était censé éliminer les frictions de notre capacité à effectuer des transactions, " dit-il. " Si dans notre désir, sinon le zèle, pour protéger la vie privée des gens, nous jetons du sable dans les engrenages de tout, nous pouvons nous retrouver avec un système très sécurisé qui ne fonctionne pas très bien."

© 2018 La Presse Associée. Tous les droits sont réservés.