Imaginez un monde où les humains coexistent avec des êtres qui, comme nous, avait l'esprit, les pensées, sentiments, conscience de soi et la capacité d'effectuer des actions déterminées, mais, contrairement à nous, ces êtres avaient des corps mécaniques artificiels qui pouvaient être allumés et éteints.

Ce nouveau monde courageux soulèverait de nombreux problèmes lorsque nous nous réconcilions avec nos homologues robots dans le cadre de la vie quotidienne. Comment devons-nous nous comporter envers eux ? Quels devoirs moraux aurions-nous ? Quels droits moraux ces personnes non humaines auraient-elles ? Serait-il moralement permis de tenter de contrecarrer leur émergence ? Ou aurions-nous le devoir de promouvoir et de favoriser leur existence ?

Des questions éthiques intrigantes comme celles-ci sont soulevées dans le récent roman de Ian McEwan, Des machines comme moi, dans lequel Alan Turing mène une longue vie réussie et propulse de manière explosive le développement de l'intelligence artificielle (IA) qui conduit à la création d'un "humain fabriqué avec une intelligence et une apparence plausibles, mouvement crédible et changements d'expression".

Comme spéculation intellectuelle, considérer l'éthique du traitement du rationnel, machines sensibles est intéressant. Mais deux arguments communs pourraient suggérer que la question n'a aucune pertinence pratique et que toute question éthique n'a pas besoin d'être prise au sérieux.

La première est que de telles personnes artificielles ne pourraient pas exister. La deuxième, souvent soulevée dans le débat sur l'avortement, est que seules les personnes qui ont des corps humains vivants et viables de manière indépendante sont dignes de respect moral et méritent une considération morale. Comme nous le verrons, ces arguments sont discutables.

Dérange, matière et propriétés émergentes

On pourrait supposer que les phénomènes mentaux - la conscience, les pensées, sentiments et ainsi de suite, sont en quelque sorte différents de ce qui constitue les ordinateurs et autres machines fabriquées par les humains. Et nous pourrions supposer que les cerveaux matériels et les machines matérielles sont fondamentalement différents des esprits conscients. Mais que de telles suppositions soient vraies ou non - et je pense qu'elles le sont - il ne s'ensuit pas que le sensible, conscient, les personnes produites artificiellement ne sont pas possibles.

Le sociologue français Emile Durkheim a soutenu de manière très convaincante que nous devrions nous méfier des arguments simplistes en sciences sociales. Phénomènes sociaux, comme la langue, ne pourrait exister sans l'interaction des êtres humains individuels avec leurs caractéristiques psychologiques et biologiques particulières. Mais il ne s'ensuit pas que les phénomènes sociaux qui en résultent – ​​ou « propriétés émergentes - puissent être complètement et correctement expliqués uniquement en fonction de ces caractéristiques.

Le même point sur la possibilité de propriétés émergentes s'applique à toutes les sciences. Il ne pouvait pas y avoir, par exemple, les ordinateurs sur lesquels je travaille maintenant sans les morceaux de plastique, fils, puces de silicium et ainsi de suite qui composent la machine. Toujours, les opérations d'un ordinateur ne peuvent pas être expliquées uniquement en termes de caractéristiques de ces composants individuels. Une fois ces composants combinés et interagissant de manière particulière avec l'électricité, un phénomène d'un nouveau genre émerge :un ordinateur. De la même manière, une fois que les ordinateurs sont combinés et interagissent de manières particulières, Internet est créé. Mais clairement, Internet est un phénomène différent d'un élément tangible, ordinateur physique.

D'une manière similaire, nous n'avons pas besoin de supposer que les esprits sont réductibles à des cerveaux, molécules, atomes ou tout autre élément physique nécessaire à leur fonctionnement. Il peut s'agir d'entités d'un genre différent qui émergent d'interactions particulières et de combinaisons d'entre elles.

Il n'y a aucune raison logique évidente pour laquelle une conscience de la sorte que les êtres humains possèdent - la capacité de penser et de prendre des décisions - ne pourrait pas apparaître un jour dans une machine humaine. Que ce soit physiquement possible et, donc susceptible de se produire réellement, est ouvert au débat.

Les machines méritent-elles notre considération ?

Il ne semble pas controversé de dire que nous ne devrions pas calomnier les morts ou détruire la planète sans raison afin que les futures générations de personnes à naître ne puissent pas en profiter comme nous l'avons fait. Les deux groupes sont dus au respect moral et à la considération. Ils doivent être considérés comme des objets potentiels de nos devoirs moraux et des destinataires potentiels de notre bienveillance.

Mais les morts et les enfants à naître n'ont aucun corps viable, qu'il soit naturel ou artificiel. Refuser aux personnes conscientes le respect moral et la considération au motif qu'elles ont des corps artificiels plutôt que naturels semblerait être arbitraire et fantaisiste. Il faudrait une justification, et ce que cela pourrait être n'est pas évident.

Un jour, peut-être plus tôt qu'on ne le pense, une réflexion sur l'éthique du traitement du rationnel, les machines sensibles pourraient s'avérer être plus qu'un exercice académique abstrait.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.