En 1998, Google a commencé humblement, formellement incorporé dans un garage de Menlo Park, fournissant des résultats de recherche à partir d'un serveur hébergé dans des briques Lego. Son objectif était simple :rendre accessible aux humains le World Wide Web mal indexé. Son succès était basé sur un algorithme qui analysait la structure de liaison d'Internet lui-même pour évaluer quelles pages Web sont les plus réputées et les plus utiles. Mais les fondateurs Sergey Brin et Larry Page avaient un objectif beaucoup plus ambitieux :ils voulaient organiser l'information du monde.

Vingt ans plus tard, ils ont construit une entreprise allant bien au-delà même de ce noble objectif, fourniture de courrier électronique aux particuliers et aux entreprises, partage de fichiers, hébergement Web, automatisation de la maison, smartphones et d'innombrables autres services. La startup ludique qui a commencé comme arpenteur du web est devenue un architecte du réel, créer et définir ce que trouvent ses milliards d'utilisateurs, voir, connaissent ou sont même au courant.

Google contrôle plus de 90 % du marché mondial de la recherche, incitant les utilisateurs et les entreprises à concevoir des sites Web qui font appel aux algorithmes de l'entreprise. Si Google ne trouve pas une information, cette connaissance n'existe tout simplement pas pour les utilisateurs de Google. Si ce n'est pas sur Google, existe-t-il vraiment ?

La machine de l'intimité

Malgré ses milliards de requêtes de recherche répondues, Google n'est pas qu'un répondeur. Google surveille les réponses sur lesquelles les gens cliquent, en supposant que ceux-ci sont plus pertinents et de plus grande valeur, et les retourner plus en évidence dans les futures recherches sur ce sujet. La société surveille également les activités des utilisateurs sur sa messagerie électronique, Applications commerciales, musique et systèmes d'exploitation mobiles, utiliser ces données dans le cadre d'une boucle de rétroaction pour donner aux utilisateurs plus de ce qu'ils aiment.

Toutes les données qu'il collecte sont la véritable source de la domination de Google, rendre les services de l'entreprise toujours meilleurs pour fournir aux utilisateurs ce qu'ils veulent. Grâce à la saisie semi-automatique et au filtrage personnalisé des résultats de recherche, Google essaie d'anticiper vos besoins, parfois avant même de les avoir. Comme l'a dit un jour l'ancien président exécutif de Google, Eric Schmidt, "Je pense en fait que la plupart des gens ne veulent pas que Google réponde à leurs questions. Ils veulent que Google leur dise ce qu'ils devraient faire ensuite."

Dans vingt ans, avec encore deux décennies de progrès, Google sera encore plus accompli, s'approchant peut-être d'une vision exprimée par Brin il y a des années :« Le moteur de recherche parfait serait comme l'esprit de Dieu. Les gens en viennent à s'appuyer sur ces outils, avec leurs algorithmes avancés basés sur l'intelligence artificielle, pas seulement pour savoir des choses mais pour les aider à réfléchir.

La barre de recherche est déjà devenue un endroit où les gens posent des questions personnelles, une sorte de confession ou de courant de conscience qui révèle profondément qui sont les utilisateurs, ce qu'ils croient et ce qu'ils veulent. À l'avenir, Google vous connaîtra encore plus intimement, combiner les résultats de la recherche, historique de navigation et suivi de localisation avec des données de santé biophysique provenant de dispositifs portables et d'autres sources qui pourraient offrir des informations puissantes sur votre état d'esprit.

Un nouveau type de vulnérabilité

Il n'est pas exagéré d'imaginer que, à l'avenir, Google peut savoir si une personne est déprimée, ou a un cancer, avant que l'utilisateur ne s'en rende compte par lui-même. Mais même au-delà, Google peut jouer un rôle crucial dans un alignement toujours plus étroit entre ce que vous pensez être vos besoins, et ce que Google vous dit qu'ils sont.

Au-delà de ses effets sur les individus, Google accumule le pouvoir d'influencer la société – peut-être de manière invisible. La fiction a un avertissement sur ce à quoi cela pourrait ressembler :dans le film "Ex Machina, " un génie entrepreneurial révèle comment il a assemblé la matière première de milliards de requêtes de recherche dans un esprit artificiel qui est très efficace pour manipuler les humains en fonction de ce qu'il apprend sur les comportements et les préjugés des gens.

Mais cette situation n'est pas vraiment une fiction. Dès 2014, Les chercheurs de Facebook ont ​​tristement démontré à quel point il est facile de manipuler les utilisateurs avec des messages positifs ou négatifs dans leurs fils d'actualité. Alors que les gens donnent aux algorithmes plus de pouvoir sur leur vie quotidienne, remarqueront-ils comment les machines les dirigent ?

Survivre à l'avenir glorieux

Que Google exerce finalement ce pouvoir dépend de ses dirigeants humains – et de la société numérique que Google est si essentielle à la construction. L'entreprise investit massivement dans l'intelligence artificielle, s'engager dans un avenir hautement automatisé où la mécanique et, peut-être, les véritables idées de la quête du savoir deviennent difficiles ou impossibles à comprendre pour les humains.

Google devient progressivement un prolongement de la pensée individuelle et collective. Il deviendra plus difficile de reconnaître où les gens finissent et où Google commence. Les gens deviendront à la fois responsabilisés et dépendants de la technologie - qui sera facile d'accès pour tout le monde mais difficile à contrôler pour les gens.

Les humains devront trouver des moyens de collaborer avec – et de diriger les activités de – une intelligence artificielle de plus en plus sophistiquée, plutôt que de devenir simplement des utilisateurs qui suivent aveuglément les pistes de boîtes noires qu'ils ne comprennent plus ou ne contrôlent plus.

Sur la base de nos études sur les relations complexes entre les personnes et les technologies, une clé essentielle à cette nouvelle compréhension des algorithmes sera la narration. Le cerveau humain est mauvais pour comprendre et traiter les données, c'est-à-dire bien sûr, la force de base d'une machine. Pour travailler ensemble, une nouvelle relation homme-machine devra dépendre d'une force humaine unique :la narration. Les gens travailleront mieux avec des systèmes qui peuvent fonctionner à travers des histoires et expliquer leurs actions d'une manière que les humains peuvent comprendre et modifier.

Plus les gens confient aux systèmes informatiques l'organisation de la culture et de la société, plus ils devraient exiger que ces systèmes fonctionnent selon des règles que les humains peuvent comprendre. Le jour où nous cesserons d'être les principaux auteurs de l'histoire de l'humanité, c'est le jour où elle cessera d'être une histoire à notre sujet.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.