Dans les années 1990, il y a toute une vie en termes d'Internet, le sociologue espagnol Manuel Castells a publié plusieurs livres retraçant l'essor des réseaux d'information. Il a prédit qu'à l'ère des réseaux, il y aurait plus de valeur à contrôler les flux d'informations qu'à contrôler le contenu lui-même.

En d'autres termes, ceux qui se positionnent comme des hubs de réseau – les routeurs et les commutateurs d'informations – deviendraient les gardiens du pouvoir à l'ère numérique.

Avec la montée en puissance des mastodontes d'Internet Google, Facebook, Amazon et autres, cette idée semble évidente maintenant. Mais au cours des deux dernières décennies, un modèle commercial fondamentalement nouveau a émergé que même Castells n'avait pas prévu - un modèle dans lequel attirer les utilisateurs sur les plateformes numériques a la priorité sur tout le reste, y compris ce que l'utilisateur pourrait dire, faire, ou acheter sur cette plateforme.

La collecte d'informations est devenue l'impératif dominant pour les géants de la technologie, aidés volontiers par des utilisateurs séduits d'abord par la nouveauté, puis par la commodité et l'expression de soi offertes par le fait d'être en ligne. Le résultat a été une explosion d'informations, que les mastodontes en ligne peuvent rassembler et utiliser à des fins lucratives.

L'ampleur de cette entreprise signifie qu'une grande partie de celle-ci est invisible pour l'utilisateur quotidien. Les grandes plates-formes sont maintenant si complexes que leur fonctionnement interne est devenu opaque même pour leurs ingénieurs et administrateurs. Si le système est maintenant si énorme que même ceux qui y travaillent ne peuvent pas voir l'image entière, alors quel espoir les régulateurs ou le public ont-ils ?

Bien sûr, les gouvernements tentent de riposter. Les lois RGPD en Europe, le rapport sur les plateformes numériques de l'ACCC en Australie, et le DETOUR Act présenté au Congrès des États-Unis en avril — tous sont des tentatives importantes pour récupérer une certaine agence. À la fois, partout, les sociétés se rendent compte que ces efforts, bien que crucial, ne suffisent pas.

Les gardiens règnent en maître

Si vous considérez Internet comme une gigantesque machine de partage et de copie d'informations, il devient alors évident que les systèmes de tri de ces informations sont d'une importance vitale. Ne pensez pas seulement à l'outil de recherche de Google, mais aussi de la façon dont Google et Amazon dominent le cloud computing, les systèmes largement invisibles qui rendent Internet utilisable.

Heures supplémentaires, ces plates-formes ont obtenu un contrôle de plus en plus grand sur la façon dont les informations les traversent. Mais c'est un type de contrôle inconnu, impliquant de plus en plus l'autonomie, des systèmes d'auto-apprentissage de plus en plus impénétrables pour l'homme.

Le contrôle des informations est primordial, c'est pourquoi des plateformes telles que Google, Amazon et Facebook ont ​​atteint la suprématie. Mais cela ne signifie pas que ces plates-formes doivent nécessairement se concurrencer ou s'entendre. Internet est vraiment énorme, un fait qui a permis à chaque plate-forme de devenir l'empereur d'un créneau en pleine croissance :Google pour la recherche, Facebook pour les réseaux sociaux, Amazon pour la vente au détail, etc. Dans chaque domaine, ils ont joué le rôle de titulaire, perturbateur, et innovateur, Tout en même temps.

Maintenant, personne n'est en concurrence avec eux. Que vous soyez un particulier, Entreprise, ou le gouvernement, si vous avez besoin d'Internet, vous avez besoin de leurs services. Les mastodontes de l'ère des réseaux sont structurels.

Les algorithmes font le show

Pour que ces plateformes restent au top, l'innovation est une exigence constante. Alors que le travail de tri devient de plus en plus important et complexe, nous assistons au développement d'algorithmes si avancés que leurs créateurs humains ont perdu la capacité de comprendre leur fonctionnement interne. Et si le résultat satisfait la tâche à accomplir, le fonctionnement interne du système est considéré comme d'importance mineure.

Pendant ce temps, la litanie des effets indésirables est indéniable. Ce nouveau monde courageux dirigé par des machines érode notre capacité à identifier, Localiser, et faire confiance aux informations faisant autorité, en faveur de la vitesse.

C'est vrai que le malade était déjà malade; les sociétés ont été évidées par trois décennies de fondamentalisme de marché. Mais comme l'a récemment averti l'historien américain de la technologie George Dyson, Le code auto-réplicable est désormais disponible dans le cyberécosystème. Ce qui a commencé comme un moyen pour les humains d'amener les autres à adopter les comportements souhaités menace maintenant de se transformer en rien de moins que la manipulation des humains par des machines.

L'ère numérique a stimulé une croissance énorme dans les disciplines de recherche telles que la psychologie sociale, économie comportementale, et neurosciences. Ils ont fourni des informations stupéfiantes sur la cognition et le comportement humains, avec des usages potentiels qui sont loin d'être bénins.

Même si cet effort avait été fondé avec les meilleures intentions, les accidents abondent lorsque des humains faillibles interviennent dans des systèmes complexes aux fondements éthiques et juridiques naissants. Ajoutez des intentions malveillantes au mélange :ingérence électorale, guerre de l'information, l'extrémisme en ligne et les défis ne font que s'aggraver.

Si vous envisagez toujours les technologies numériques comme des outils, ce qui implique que vous, l'utilisateur, sont en plein contrôle, vous devez réfléchir à nouveau. La vérité est que personne ne sait vraiment où le code numérique auto-réplicable nous mènera. Vous êtes la rétroaction, pas l'instruction.

Les régulateurs ne savent pas par où commencer

Un consensus grandit sur le fait qu'une intervention réglementaire est requise de toute urgence pour éviter de nouvelles perturbations sociales, et introduire un contrôle démocratique et juridique dans les pratiques des plus grands monopoles du monde. Mais, si Dyson a raison, le génie est déjà sorti de la bouteille.

Fasciné par la nouveauté et la commodité de la vie en ligne, nous avons involontairement permis à la Silicon Valley de réaliser un "coup d'en haut". Il est grand temps que l'idéologie qui a informé ce coup, et régit maintenant tant d'activités humaines quotidiennes, est exposé à un examen minutieux.

Les défis de l'ère de l'information numérique s'étendent au-delà des monopoles et de la vie privée. Ce régime de technologies a été construit par conception sans souci d'exploitation. Ces vulnérabilités sont étendues et continueront d'être exploitées, et maintenant que cette technologie fait si intimement partie de la vie quotidienne, son assainissement doit être poursuivi sans crainte ni faveur.

Pourtant, l'intervention législative et réglementaire ne peut être efficace que si l'industrie, les gouvernements et la société civile s'associent pour construire, intentionnellement, une ère de l'information numérique digne de ce nom, qui ne nous laisse pas tous exposés à l'exploitation.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.