Non content de surveiller presque tout ce que vous faites en ligne, Facebook veut maintenant lire dans vos pensées également. Le géant des médias sociaux a récemment annoncé une percée dans son projet de créer un appareil qui lit les ondes cérébrales des gens pour leur permettre de taper simplement en pensant. Et Elon Musk veut aller encore plus loin. L'une des autres sociétés du patron de Tesla, Neuralink, développe un implant cérébral pour connecter l'esprit des gens directement à un ordinateur.

Musk admet qu'il s'inspire de la science-fiction, et qu'il veut s'assurer que les humains peuvent "suivre" l'intelligence artificielle. Il semble avoir raté la partie de la science-fiction qui sert d'avertissement pour les implications de la technologie.

Ces systèmes de lecture mentale pourraient affecter notre vie privée, Sécurité, identité, l'égalité et la sécurité personnelle. Voulons-nous vraiment que tout cela soit laissé aux entreprises avec des philosophies telles que celle de l'ancien mantra de Facebook, « aller vite et casser les choses » ?

Bien qu'ils semblent futuristes, les technologies nécessaires pour fabriquer des appareils de lecture des ondes cérébrales ne sont pas si différentes des outils neuroscientifiques standard d'IRM (imagerie par résonance magnétique) et d'EEG (électroencéphalographie) utilisés dans les hôpitaux du monde entier. Vous pouvez déjà acheter un kit pour contrôler un drone avec votre esprit, donc en utiliser un pour taper des mots est, à certains égards, pas tellement d'un saut. L'avancée sera probablement due à l'utilisation de l'apprentissage automatique pour passer au crible d'énormes quantités de données collectées dans notre cerveau et trouver les modèles d'activité neuronale qui relient les pensées à des mots spécifiques.

Un implant cérébral est susceptible de prendre beaucoup plus de temps à se développer, et il est important de séparer les réalisations réelles de Neuralink du battage médiatique et de la promotion. Mais Neuralink a apporté des améliorations simultanées aux matériaux des électrodes et à la chirurgie assistée par robot pour les implanter, emballant soigneusement la technologie afin qu'elle puisse être lue via USB.

Les plans de Facebook et de Neuralink peuvent s'appuyer sur une pratique médicale établie. Mais lorsque les entreprises recueillent des pensées directement de notre cerveau, les enjeux éthiques sont très différents.

Tout système qui pourrait collecter des données directement à partir de notre cerveau présente des risques évidents pour la confidentialité. La vie privée est une question de consentement. Mais il est très difficile de donner un consentement approprié si quelqu'un puise directement dans nos pensées. Les entreprises (et les gouvernements) de la Silicon Valley recueillent déjà subrepticement autant de données sur nous qu'elles le peuvent et les utilisent d'une manière que nous préférerions qu'elles ne le fassent pas. Comment pouvons-nous être sûrs que nos pensées aléatoires et personnelles ne seront pas capturées et étudiées parallèlement aux instructions que nous voulons donner à la technologie ?

Discrimination et manipulation

L'un des problèmes éthiques existants avec la collecte de données est la discrimination fondée sur des attributs tels que le sexe ou la race qui peuvent être discernés à partir des données. Offrir une fenêtre sur l'esprit des gens pourrait permettre de déterminer plus facilement d'autres choses qui pourraient constituer la base des préjugés, comme la sexualité ou l'idéologie politique, ou même différentes façons de penser qui pourraient inclure des choses comme l'autisme.

Avec un système qui puise directement dans votre cerveau, non seulement vos pensées pourraient être volées, mais il est également possible qu'ils soient également manipulés. La stimulation cérébrale est déjà en cours de développement pour aider à traiter le TSPT et à réduire la violence. Il y a même des affirmations sensationnelles selon lesquelles il peut être utilisé pour télécharger des connaissances directement comme dans le film The Matrix.

Une étape prévisible serait de combiner les technologies "in" et "out" pour une interface cerveau-ordinateur bidirectionnelle. Le potentiel pour les gouvernements de nous rendre plus conformes, pour que les employeurs nous obligent à travailler plus dur, ou pour que les entreprises nous donnent envie de plus de leurs produits souligne à quel point nous devons prendre cette technologie au sérieux.

Si les appareils de lecture mentale deviennent le moyen normal d'interagir avec les ordinateurs, nous pouvons nous retrouver avec peu d'autre choix que de les utiliser afin de suivre des collègues plus productifs. (Imaginez que quelqu'un postule aujourd'hui pour un emploi de bureau mais refuse d'utiliser le courrier électronique.) Et si les implants de style Neuralink deviennent la norme, cela pourrait également conduire à une plus grande inégalité déterminée par le niveau de kit que vous pourriez vous permettre d'installer.

Elon Musk a déclaré que l'énorme prêt nécessaire pour s'offrir la chirurgie Neuralink serait compensé par des revenus potentiels pour les « améliorés ». L'idée que les gens se sentent obligés de contracter d'énormes dettes pour se faire opérer juste pour garder leur emploi vient tout droit d'une dystopie de science-fiction.

En plus de tout cela, il y a la menace physique plus directe d'avoir des systèmes qui s'immiscent physiquement dans notre cerveau. Alors que certaines personnes peuvent vouloir modifier leur cerveau avec une interface informatique (il existe déjà de nombreux biohackers expérimentaux), le déployer à grande échelle nécessiterait des tests massifs et approfondis.

Compte tenu de la réputation (et du penchant) de la Silicon Valley à casser les choses plutôt que de s'arrêter pour y réfléchir, ces systèmes auront besoin d'une réglementation stricte et d'un examen éthique avant même le début des tests. Sinon, cela risque de créer des cobayes humains mutilés.

Pour tout cela, il pourrait y avoir d'énormes avantages à poursuivre la recherche dans ce domaine, en particulier pour ceux qui souffrent de paralysie ou de déficience sensorielle. Mais la Silicon Valley ne devrait pas pouvoir dicter la manière dont ces technologies sont développées et déployées. S'ils le font, cela peut radicalement remodeler la façon dont nous nous identifions en tant qu'humains.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.