Regarder une projection du 50e anniversaire de "2001:A Space Odyssey, " Je me suis trouvé, un mathématicien et informaticien dont la recherche comprend des travaux liés à l'intelligence artificielle, comparer la vision de l'histoire de l'avenir avec le monde d'aujourd'hui.

Le film a été réalisé grâce à une collaboration avec l'écrivain de science-fiction Arthur C. Clarke et le réalisateur Stanley Kubrick, inspiré du roman de Clarke "Childhood's End" et de sa nouvelle moins connue "The Sentinel". Une œuvre saisissante de fiction spéculative, il dépeint - en termes parfois pleins d'espoir et d'autres fois prudents - un avenir de contact extraterrestre, voyage interplanétaire, machines conscientes et même le prochain grand saut évolutif de l'humanité.

La manière la plus évidente dont 2018 a été en deçà de la vision de "2001" est le voyage dans l'espace. Les gens ne visitent pas encore systématiquement les stations spatiales, faire des visites banales à l'une des nombreuses bases lunaires, ni voyager vers d'autres planètes. Mais Kubrick et Clarke ont fait mouche en imaginant les possibilités, problèmes et défis de l'avenir de l'intelligence artificielle.

Que peuvent faire les ordinateurs ?

Un drame principal du film peut à bien des égards être considéré comme une bataille à mort entre l'homme et l'ordinateur. L'intelligence artificielle de "2001" s'incarne dans HAL, la présence informatique omnisciente, le cerveau du vaisseau spatial Discovery One – et peut-être le personnage le plus célèbre du film. HAL marque le summum de la réussite informatique :une connaissance de soi, dispositif apparemment infaillible et une présence omniprésente dans le navire, toujours à l'écoute, regarde toujours.

HAL n'est pas seulement un assistant technologique de l'équipage, mais plutôt - selon les mots du commandant de mission Dave Bowman - le sixième membre d'équipage. Les humains interagissent avec HAL en lui parlant, et il répond d'une voix masculine mesurée, quelque part entre un parent sévère mais indulgent et une infirmière bien intentionnée. HAL c'est Alexa et Siri – mais bien mieux. HAL a le contrôle total du navire et aussi, comme il s'avère, est le seul membre d'équipage qui connaît le véritable objectif de la mission.

L'éthique dans la machine

La tension du troisième acte du film tourne autour du fait que Bowman et son coéquipier Frank Poole prennent de plus en plus conscience du dysfonctionnement de HAL, et la découverte par HAL de ces soupçons. Dave et Frank veulent débrancher un ordinateur défaillant, tandis que HAL conscient de lui-même veut vivre. Tous veulent terminer la mission.

Le match d'échecs de vie ou de mort entre les humains et HAL offre des précurseurs de certaines des questions d'aujourd'hui sur la prévalence et le déploiement de l'intelligence artificielle dans la vie quotidienne des gens.

D'abord et avant tout se pose la question de savoir quel contrôle les gens devraient céder aux machines artificiellement intelligentes, peu importe à quel point les systèmes peuvent être "intelligents". Le contrôle de HAL sur Discovery est comme une version dans l'espace lointain de la maison en réseau du futur ou de la voiture sans conducteur. Citoyens, créateurs de politiques, les experts et les chercheurs étudient toujours dans quelle mesure l'automatisation pourrait – ou devrait – sortir les humains de la boucle. Certaines des considérations impliquent des questions relativement simples sur la fiabilité des machines, mais d'autres problèmes sont plus subtils.

Les actions d'une machine informatique sont dictées par des décisions codées par des humains dans des algorithmes qui contrôlent les appareils. Les algorithmes ont généralement un objectif quantifiable, vers laquelle chacune de ses actions doit progresser – comme gagner une partie de dames, échecs ou Go. Tout comme un système d'IA analyserait les positions des pièces de jeu sur un plateau, il peut également mesurer l'efficacité d'un entrepôt ou la consommation d'énergie d'un centre de données.

Mais que se passe-t-il lorsqu'un dilemme moral ou éthique survient en route vers le but ? Pour le HAL auto-conscient, terminer la mission - et rester en vie - l'emporte par rapport à la vie de l'équipage. Et une voiture sans conducteur ? Est la mission d'une voiture autonome, par exemple, pour transporter un passager d'un endroit à un autre le plus rapidement possible – ou pour éviter de tuer des piétons ? Quand quelqu'un passe devant un véhicule autonome, ces objectifs sont en conflit. Cela peut sembler un "choix" évident pour programmer, mais que faire si la voiture doit "choisir" entre deux scénarios différents, dont chacun causerait une mort humaine?

Sous surveillance

Dans une scène classique, Dave et Frank entrent dans une partie de la station spatiale où ils pensent que HAL ne peut pas les entendre pour discuter de leurs doutes sur le fonctionnement de HAL et sa capacité à contrôler le vaisseau et à guider la mission. Ils abordent l'idée de le fermer. Ils ne savent pas que les caméras de HAL peuvent les voir :l'ordinateur lit leurs lèvres à travers la fenêtre du module et apprend leurs plans.

Dans le monde moderne, une version de cette scène se passe toute la journée tous les jours. La plupart d'entre nous sont effectivement surveillés en permanence, grâce à nos téléphones presque toujours activés ou à la surveillance des entreprises et du gouvernement des activités du monde réel et en ligne. La frontière entre privé et public est devenue et continue d'être de plus en plus floue.

Les relations des personnages dans le film m'ont beaucoup fait réfléchir à la façon dont les gens et les machines pourraient coexister, ou même évoluer ensemble. À travers une grande partie du film, même les humains se parlent doucement, sans trop de ton ou d'émotion - comme ils pourraient parler à une machine, ou comme une machine pourrait leur parler. La célèbre scène de mort de HAL - dans laquelle Dave déconnecte méthodiquement ses liens logiques - m'a fait me demander si les machines intelligentes se verraient jamais offrir quelque chose d'équivalent aux droits de l'homme.

Clarke croyait tout à fait possible que le temps des humains sur Terre n'ait été qu'un « bref lieu de repos » et que la maturation et l'évolution de l'espèce amèneraient nécessairement les gens bien au-delà de cette planète. "2001" se termine avec optimisme, faire passer un humain à travers la « porte des étoiles » pour marquer la renaissance de la race. Pour ce faire, il faudra en réalité que les gens trouvent comment utiliser au mieux les machines et les appareils qu'ils construisent, et pour s'assurer que nous ne laissons pas ces machines nous contrôler.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.