HAL 9000 est l'un des personnages d'intelligence artificielle les plus connus du cinéma moderne. Cette forme supérieure d'ordinateur sensible se lance dans une mission vers Jupiter, avec un équipage humain, dans le film emblématique 2001 de Stanley Kubrick :A Space Odyssey, qui fête actuellement ses 50 ans depuis sa sortie.

HAL est capable de produire et de comprendre la parole, la reconnaissance faciale, lecture labiale – et jouer aux échecs. Sa capacité de calcul supérieure est renforcée par des traits humains uniques, trop. Il peut interpréter le comportement émotionnel, raisonner et apprécier l'art.

En donnant des émotions à HAL, l'écrivain Arthur C. Clarke et le cinéaste Stanley Kubrick en ont fait l'une des technologies de fiction les plus humaines jamais créées. Dans l'une des plus belles scènes de l'histoire de la science-fiction, il dit qu'il a "peur" lorsque le commandant de la mission, le Dr David Bowman, commence à déconnecter ses modules de mémoire à la suite d'une série d'événements meurtriers.

HAL est programmé pour fournir une assistance optimale à l'équipage du vaisseau spatial Discovery. Il a le contrôle sur l'ensemble du navire, et une intelligence stupéfiante pour l'aider dans sa tâche. Pourtant, peu de temps après avoir fait connaissance avec HAL, on ne peut s'empêcher de sentir qu'il est inquiet – il prétend même avoir peur – et qu'il a une capacité d'empathie, pourtant petit. Mais bien que rien n'empêche le idée qu'une IA aussi émotionnelle puisse voir le jour, si une telle profondeur de sentiments devait être incluse dans la technologie du monde réel, ils devraient être entièrement faux.

Une IA "parfaite"

Lorsque, durant le film, Bowman commence à remplacer manuellement les fonctions de HAL, il lui demande d'arrêter, et après avoir assisté à un effacement fascinant des facultés "mentales" de HAL, l'IA essaie apparemment de se réconforter en chantant Daisy Bell – apparemment la première chanson jamais produite par un ordinateur.

En réalité, les téléspectateurs commencent à sentir que Bowman tue HAL. La déconnexion ressemble à une résiliation vengeresse, après avoir été témoin des événements antérieurs du film. Mais bien que HAL fasse des déclarations émotionnelles, une IA du monde réel se limiterait certainement à n'avoir que la capacité de raisonner, et prendre des décisions. Le froid, la dure vérité est que - malgré ce que disent les informaticiens - nous ne pourrons jamais programmer les émotions comme le faisaient les créateurs de fiction de HAL parce que nous ne les comprenons pas. Les psychologues et les neuroscientifiques essaient certainement d'apprendre comment les émotions interagissent avec la cognition, mais ils restent toujours un mystère.

Prenez nos propres recherches, par exemple. Dans une étude menée auprès de bilingues chinois-anglais, nous avons exploré comment la valeur émotionnelle des mots peut changer le fonctionnement mental inconscient. Lorsque nous avons présenté à nos participants des mots positifs et neutres, comme « vacances » ou « arbre », ils ont inconsciemment récupéré ces formes de mots en chinois. Mais quand les mots avaient un sens négatif, tels que « meurtre » ou « viol », leur cerveau a bloqué l'accès à leur langue maternelle – à leur insu.

Raison et émotion

D'autre part, nous en savons beaucoup sur le raisonnement. Nous pouvons décrire comment nous arrivons à des décisions rationnelles, écrire des règles et transformer ces règles en processus et en code. Pourtant, les émotions sont un mystérieux héritage évolutif. Leur source est la source de tout, et pas simplement un attribut de l'esprit qui peut être mis en œuvre par conception. Pour programmer quelque chose, vous avez non seulement besoin de savoir comment cela fonctionne, vous devez savoir quel est l'objectif. La raison a des objectifs, les émotions ne le font pas.

Dans une expérience menée en 2015, nous avons pu mettre cela à l'épreuve. Nous avons demandé à des locuteurs natifs de chinois mandarin étudiant à l'université de Bangor de jouer à un jeu de hasard pour de l'argent. A chaque tour, ils devaient prendre ou laisser un pari proposé affiché à l'écran - par exemple, 50% de chances de gagner 20 points, et 50% de chances de perdre 100 points.

Nous avons émis l'hypothèse que leur donner un feedback dans leur langue maternelle serait plus émouvant pour eux et les amènerait ainsi à se comporter différemment, par rapport au moment où ils ont reçu des commentaires dans leur langue seconde, Anglais. En effet, quand ils ont reçu des commentaires positifs en chinois natif, ils étaient 10% plus susceptibles de prendre un pari au tour suivant, indépendamment du risque. Cela montre que les émotions influencent le raisonnement.

Pour en revenir à l'IA, comme les émotions ne peuvent pas être véritablement mises en œuvre dans un programme - aussi sophistiqué soit-il - le raisonnement de l'ordinateur ne peut jamais être modifié par ses sentiments.

Une interprétation possible du comportement "émotionnel" étrange de HAL est qu'il a été programmé pour simuler des émotions dans des situations extrêmes, où il faudrait manipuler les humains non pas sur la base du raisonnement mais en faisant appel à leur moi émotionnel, quand la raison humaine échoue. C'est la seule façon dont je peux voir que l'IA du monde réel pourrait simuler de manière convaincante des émotions dans de telles circonstances.

À mon avis, nous n'allons pas, déjà, construire une machine qui se sent, espère, a peur, ou heureux. Et parce que c'est une condition préalable absolue à toute affirmation selon laquelle nous avons engendré l'intelligence artificielle générale, nous ne créerons jamais un esprit artificiel en dehors de la vie.

C'est précisément là que réside la magie de 2001:A Space Odyssey. Pour un moment, on est amené à croire à l'impossible, que la science-fiction pure peut outrepasser les faits du monde dans lequel nous vivons.

Cet article a été initialement publié sur The Conversation. Lire l'article original.