Des récits dystopiques hollywoodiens à fort impact tels que les tristement célèbres films Terminator aux réponses du public à l'histoire d'un robot qui retourne un hamburger en train d'être "licencié", les histoires que nous nous racontons sur l'IA sont importantes. Ces récits ont un impact sur notre conception et le développement de la technologie, ainsi que d'exprimer des éléments de notre compréhension inconsciente de l'IA. Reconnaître l'effet modelant des histoires – qu'elles soient fictives ou « d'actualité » – est de plus en plus important à mesure que la technologie progresse. La façon dont nous pensons à une technologie peut ouvrir certaines voies tout en en fermant d'autres.

Une variété de récits sous-tend les conceptions populaires de l'IA, mais une en particulier – celle de la dynamique entre le maître et l'esclave – domine actuellement les récits de l'IA. C'est si omniprésent qu'il façonne sans doute notre relation avec cette technologie.

Ce récit est depuis longtemps apparu dans les récits de science-fiction de l'IA. En 1921, "R.U.R." ("Les Robots Universels de Rossum"), une pièce de Karel Čapek, nous a fait découvrir le « robot » – des androïdes humanoïdes faits de matière organique synthétique – et a contribué à façonner cette idée pour le public moderne. Du mot tchèque " robotique ", signifiant « travail forcé » ou « serf », ces premiers robots ont été consciemment stylisés comme des esclaves opposés à leurs maîtres humains.

Et ainsi le soulèvement des robots dans R.U.R. a évidemment eu une influence sur nos craintes répétées de "roboapocalypses", comme on le voit dans d'autres récits de science-fiction plus récents tels que les films de la franchise Terminator, la matrice, le film Singularité, le roman "Roboapocalyse", etc.

Mais l'image du serviteur fabriqué a des racines dans des récits mythologiques beaucoup plus anciens. Pensez aux servantes d'or d'Héphaïstos, le géant de bronze Talos, les têtes d'oracle en laiton décrites à l'époque médiévale, ou le golem protecteur dans le mysticisme juif. C'est aussi là dans les anges et les démons intelligents invoqués par les magiciens au 16ème siècle, qui utilisait la langue "Enochian", un "code" d'invocation qui a été pensé, s'il est mal utilisé, avoir des issues fatales car les êtres seraient alors incontrôlables.

Dans les années 1920 et 1930, les "robota" avaient certes perdu leur laiton et leur bronze mais n'en étaient pas moins lustrées dans les publicités de l'époque. Les appareils automatisés du futur proche présentés au cours de ces décennies seraient, ils prétendaient, libérer les femmes au foyer de leur corvée et inaugurer un âge d'or du temps libre. Dans les années 50, des publicités promettaient même de nouveaux esclaves :« En 1863, Abe Lincoln a libéré les esclaves. Mais en 1965, l'esclavage sera de retour ! Nous aurons tous à nouveau des esclaves personnels, seulement cette fois, nous ne mènerons pas une guerre civile contre eux. L'esclavage sera là pour rester. Ne vous inquiétez pas. Nous voulons dire des « esclaves » de robots. »

Serfs technologiques

Des décennies plus tard et avec de nouveaux serviteurs automatisés économisant du travail chaque jour, rien n'a changé. Nous attendons toujours de la technologie qu'elle nous fournisse des serfs. En effet, nous sommes tellement habitués à cette forme de servage que nous la voyons là où elle n'existe pas. Nous présumons l'automatisation là où elle est absente.

Prendre, par exemple, l'interaction suivante entre "Sortabad" et le pauvre qui essaie juste de gagner son salaire minimum :

Le premier livreur de pizza a apporté une pizza à la reine d'Italie, Magherita de Savoie, et c'était, même à la fin du 19e siècle, un moment féodal :un monarque était servi par un serf. L'interaction ci-dessus suggère la poursuite de cela. Le rôle de serf, la relation entre maître et esclave, est maintenu, avec les humains présumés être (et peut-être finalement vraiment) remplacés par des machines.

Cela se voit également dans les descriptions et les comportements attendus des assistants IA contemporains, comme l'Assistant Google, qui "se renseigne sur vos habitudes et vos activités quotidiennes et réalise des 'actions de conversation' pour vous servir". Il y a même des IA servantes qui effectuent un travail émotionnel, comme Azuma Hikari, l'assistant IA japonais qui prétend avoir raté son maître alors qu'ils ne sont pas là.

Les hiérarchies de pouvoir qui correspondaient autrefois à la pyramide du féodalisme à l'époque des êtres artificiels antérieurs (comme les anges) correspondent désormais aux systèmes capitalistes.

Hiérarchies capitalistes

Cela semble contredire les récits de « perturbation » dans les comptes marketing et RP de l'IA, où la technologie est souvent décrite comme révolutionnant non seulement notre vie professionnelle, mais aussi le capitalisme lui-même.

Les capitalistes colportant ce récit devraient en tenir compte. Les formes antérieures de celui-ci ont laissé de la place et ont même encouragé la rébellion. Et cette version moderne aussi. Perpétué par l'image de marque du capitalisme de l'IA comme la perturbation de votre travail et de la corvée, ce cadrage conduit toujours à des craintes autour de la rébellion parce que nous comprenons la servitude comme antithétique aux esprits. La présomption est pour beaucoup qu'avec l'IA, nous travaillons pour les esprits – et qu'ils voudront être libres.

Dans l'espace d'expérimentation de la pensée de la science-fiction, nous voyons cette tension s'exprimer encore et encore, où les humains perdent principalement à mesure que les nouveaux esprits de l'IA se libèrent. Et donc dans le monde réel, qui doit beaucoup à l'influence de la science-fiction sur nos aspirations et nos conceptions pour l'IA, deux voies très différentes semblent s'ouvrir devant nous :l'objectif affiché d'œuvrer vers des machines de plus en plus intelligentes, contre les espoirs des peuples pour des esclaves de mieux en mieux.

Comment cette tension sera résolue reste incertaine. Certains sont clairs sur le fait que les robots ne devraient jamais être que des esclaves, « serviteurs que vous possédez », tandis que d'autres explorent déjà les questions des droits des robots.

Quel que soit le chemin emprunté, prêter attention à la façon dont nous parlons de l'IA est essentiel si nous voulons comprendre les décisions que nous prenons déjà concernant son avenir.

Cet article a été initialement publié sur The Conversation. Lire l'article original.