Westworld de HBO. Crédit :John P. Johnson/HBO
Qu'on le veuille ou qu'on le déteste, la révolution des robots est maintenant bien engagée et les futurs décrits par des écrivains tels qu'Isaac Asimov, Frederik Pohl et Philip K. Dick passent rapidement de la science-fiction à la réalité scientifique. Mais les robots doivent-ils avoir des droits ? Et l'humanité atteindra-t-elle un jour un point où l'homme et la machine seront traités de la même manière ?
Au cœur du débat se trouve la question la plus fondamentale :que signifie être humain ? Intuitivement, nous pensons tous savoir ce que cela signifie, cela va presque sans dire. Et encore, en tant que société, nous déshumanisons régulièrement les autres, et les présente comme des animaux ou moins qu'humains - ce que le philosophe Giorgio Agamben décrit comme " la vie nue ".
Prenez les sans-abri par exemple. Les gens que les autorités traitent un peu comme des animaux, ou moins que les animaux (comme les parasites) qui doivent être protégés avec des pointes anti-sans-abri et des bancs conçus pour empêcher le sommeil. Un processus similaire se déroule dans un cadre militaire, où les ennemis sont considérés comme moins qu'humains pour les rendre plus faciles à combattre et à tuer.
Les humains le font également à d'autres « étrangers » tels que les immigrants et les réfugiés. Bien que de nombreuses personnes puissent trouver ce processus dérangeant, ces distinctions artificielles entre insider et outsider révèlent un élément clé du fonctionnement du pouvoir. C'est parce que nos identités mêmes sont fondamentalement construites sur des hypothèses sur qui nous sommes et ce que cela signifie d'être inclus dans la catégorie "humain". Sans ces distinctions totalement arbitraires, nous risquons d'exposer le fait que nous sommes tous beaucoup plus comme des animaux que nous aimons l'admettre.
Être humain
Bien sûr, les choses deviennent beaucoup plus compliquées lorsque vous ajoutez des robots dans le mix. Une partie du problème est que nous avons du mal à décider ce que nous entendons par « pensée » et « conscience » et même ce que nous entendons par « vie » elle-même. Tel qu'il est, la race humaine n'a pas de définition scientifique stricte du début et de la fin de la vie.
De la même manière, nous n'avons pas de définition claire de ce que nous entendons par pensée intelligente et comment et pourquoi les gens pensent et se comportent de différentes manières. Si la pensée intelligente est une partie si importante de l'être humain (comme certains pourraient le croire), alors qu'en est-il des autres créatures intelligentes telles que les corbeaux et les dauphins ? Qu'en est-il des humains biologiques avec une intelligence inférieure à la moyenne ?
Ces questions sont au cœur du débat sur les droits et révèlent à quel point notre compréhension de l'humain est réellement précaire. Jusqu'à maintenant, ces débats n'ont été que l'apanage de la science-fiction, avec Flowers for Algernon et Do Androids Dream of Electric Sheep ? exposant à quel point il est facile de brouiller la frontière entre l'humain et l'autre non-humain. Mais avec l'essor de l'intelligence robotique, ces questions deviennent plus pertinentes que jamais, comme maintenant, nous devons également considérer la machine à penser.
Les machines et l'état de droit
Mais même en supposant que les robots devaient un jour être considérés comme « vivants » et suffisamment intelligents pour être considérés de la même manière que les êtres humains, alors la question suivante est de savoir comment pouvons-nous les intégrer dans la société et comment pouvons-nous leur demander des comptes lorsque les choses tournent mal ?
Traditionnellement, nous avons tendance à penser aux droits parallèlement aux responsabilités. Cela fait partie de ce qu'on appelle la théorie du contrat social, qui est souvent associé au philosophe politique Thomas Hobbes. Dans un contexte moderne, les droits et les responsabilités vont de pair avec un système de justice qui nous permet de faire respecter ces droits et de faire respecter la primauté du droit. Mais ces principes ne peuvent tout simplement pas être appliqués à une machine. C'est parce que notre système humain de justice est basé sur un concept de ce que signifie être humain et ce que signifie être vivant.
Donc, si vous enfreignez la loi, vous perdez potentiellement une partie de votre vie par l'incarcération ou (dans certains pays) même la mort. Cependant, les machines ne peuvent pas connaître l'existence des mortels de la même manière que les humains. Ils ne vivent même pas le temps de la même manière que les humains. En tant que tel, peu importe la durée d'une peine de prison, comme une machine pourrait simplement s'éteindre et rester essentiellement inchangée.
Pour l'instant du moins, il n'y a certainement aucun signe que les robots acquièrent les mêmes droits que les êtres humains et nous sommes certainement loin des machines pensant d'une manière qui pourrait être décrite comme une "pensée consciente". Étant donné que nous ne sommes toujours pas tout à fait d'accord avec les droits des créatures intelligentes telles que les corbeaux, dauphins et chimpanzés, la perspective des droits des robots semblerait très lointaine.
La question alors vraiment, n'est pas tant de savoir si les robots doivent avoir des droits, mais faut-il distinguer les droits de l'homme des autres formes de vie telles que les animaux et les machines. Il se peut que nous commencions à réfléchir à une Déclaration des droits cybernétique qui englobe tous les êtres pensants et reconnaît les frontières floues entre l'humain, animal et machine.
Quoi qu'il en soit, nous devons certainement nous éloigner de la notion nettement problématique selon laquelle nous, les humains, sommes d'une certaine manière supérieurs à toutes les autres formes de vie sur cette planète. Une telle pensée insulaire a déjà contribué à la crise climatique mondiale et continue de créer des tensions entre différents groupes religieux et ethniques. Jusqu'à ce que nous acceptions ce que signifie être humain, et notre place dans ce monde, alors les problèmes persisteront. Et pendant tout ce temps, les machines continueront à gagner en intelligence.
Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.