De tous les assistants virtuels fictifs que nous connaissons de la culture pop, peu résistent à l'original et peut-être le plus célèbre :le HAL 9000 du film de 1968 de Stanley Kubrick 2001 :A Space Odyssey.

Nous devrions probablement être reconnaissants pour cela. Après tout, Alexa peut éteindre vos lumières, mais elle ne se retournera pas contre vous et ne fera pas des ravages dans votre vie. Ou le fera-t-elle ?

Amazon Alexa, Samsung Bixby, Assistant Google, Pomme Siri, Cortana de Microsoft, IBM Watson et d'autres assistants virtuels sont présentés comme un croisement entre votre ami, ton serviteur, votre précieux compagnon et acolyte.

HAL nous présente quelque chose de plus sinistre, mais peut-être plus réaliste. Alors que les entreprises technologiques poussent les assistants virtuels comme partie intégrante d'un meilleur, vie plus facile, 2001 :A Space Odyssey demande :à quel prix ?

Le film illustre l'écosystème technologique que les entreprises sont vraiment en concurrence pour posséder – un écosystème où nous échangeons notre vie privée contre de petites commodités.

'Je veux t'aider' - HAL

En 2001 :L'Odyssée de l'espace, HAL est présenté à l'équipage d'un vaisseau spatial comme l'un d'entre eux. Mais avec des capacités cognitives bien au-delà de celles de ses compagnons humains, HAL est omniprésent et intégré à la technologie qui maintient l'équipage en vie.

L'équipage fait confiance à HAL, évitant la vie privée pour le bien de son aide dans le contrôle de l'ensemble du navire. Il ne leur vient pas à l'esprit que les personnes qui ont conçu HAL n'avaient peut-être pas à cœur les meilleurs intérêts de l'équipage. Ou que la loyauté de HAL est envers Mission Control et, Au-delà de ça, sa programmation.

De même, bien qu'il soit clair que la fonction des assistants virtuels modernes est motivée par le profit, il n'est pas évident pour le consommateur moyen exactement comment sa présence est monétisée. Les consommateurs sont peut-être plus informés sur leur vie privée en ligne de nos jours, pourtant, les conséquences de l'intrusion du monde virtuel dans le physique n'ont pas correctement imprégné la conscience publique.

Permettre à une machine de vous enregistrer 24h/24 et 7j/7 en échange de commodité est un prix élevé à payer. Cela peut ne pas sembler ainsi parce que les assistants virtuels portent le halo de confiance gagné par les autres services pour lesquels ils sont connus - la recherche de Google est sans précédent et l'expérience de vente au détail d'Amazon est en tête du marché mondial.

Comme HAL, ces machines traitent des quantités incroyables de données. Tellement, que même leurs créateurs ne sont pas tout à fait sûrs de leurs capacités, ou comment ils atteindront leur objectif. L'intérêt commercial des assistants virtuels réside dans leur capacité à prédire votre comportement à travers ce qu'ils captent, et créer des opportunités de transactions. L'extraction de données volumineuses pour l'analyse prédictive fait fureur dans le monde des affaires.

Donc, tandis que les entreprises commercialisent des assistants virtuels en tant qu'"assistants", ils sont en fait votre "analyste".

"Je pouvais voir tes lèvres bouger" - HAL

En 2001 :L'Odyssée de l'espace, l'équipage n'a clairement jamais lu le "Guide de démarrage rapide" de HAL. Ils ne savaient pas qu'il pouvait mentir, et ils ne savaient pas non plus qu'il pouvait lire sur les lèvres. Lorsque l'équipage sort du navire pour avoir un moment d'intimité, Les caméras de HAL pouvaient toujours les voir et saisir l'essentiel de leur conversation pas si privée. Puis pousser est venu pour pousser… et bien, finalement, l'équipage a fini par se faire pousser.

Une conséquence involontaire d'avoir un assistant virtuel à notre disposition est qu'il est toujours à l'écoute, et il peut également enregistrer. Pas de surprise, c'est exactement ce que fait Amazon. Si des entreprises vous enregistrent chez vous, des erreurs comme envoyer des enregistrements à la mauvaise personne, divulguer involontairement des informations, ou permettre accidentellement à quelqu'un d'écouter sont inévitables.

Oh, et si vous pensez être protégé par les termes et conditions, vous vous trompez probablement. Mais ce n'est pas grave - comme l'équipage 2001:A Space Odyssey, vous ne les comprenez probablement pas ou ne les lisez pas de toute façon.

'J'ai peur de ne pas pouvoir faire ça, Dave' - HAL

Kubrick a utilisé 2001 pour illustrer la technologie, asservissement physique et psychologique. HAL contrôle d'abord l'environnement physique puis tente d'exercer son contrôle sur l'environnement psychologique. Si nous ré-imaginons 2001:A Space Odyssey avec HAL comme héros, alors il a bien raison de tuer l'équipage. Après tout, ces humains embêtants sont imprévisibles car ils sont susceptibles de laisser leurs émotions gâcher la mission.

Si nous réimaginons nos vies avec Google comme héros, eh bien nous sommes "l'assistant", aider Google à obtenir les données dont il a besoin pour mieux surveiller et prévoir votre comportement, pour les actionnaires.

Heureusement, l'humanité a encore le temps de s'adapter avant que les machines ne prennent pleinement le contrôle de nos vies au nom des entreprises technologiques. Tant que les gens auront encore leurs perroquets qui commandent de la nourriture sur Amazon, il sera clair pour le public que faire confiance à cette machine n'est peut-être pas une si bonne idée.

Toujours, l'intelligence artificielle s'améliore à un rythme rapide. Finalement, nous devrons décider si nous voulons que la vie privée des consommateurs triomphe, et faire sauter la surveillance constante d'un sas.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.