Alors que de plus en plus de robots font leur chemin dans la société, il est important de considérer les implications éthiques et morales de leur demander d'accomplir des tâches qui peuvent avoir un impact significatif sur la vie des gens. Si les robots et les machines doivent être largement utilisés dans des situations où ils pourraient sérieusement affecter des vies humaines, par exemple en conduisant des voitures ou en donnant aux personnes âgées les médicaments dont elles ont besoin au quotidien, les développeurs doivent d'abord considérer les implications associées.

Avec ça en tête, Michel Nagenborg, chercheur à l'Université de Twente aux Pays-Bas, a récemment mené une étude sur ce qui pourrait arriver si un robot ou une machine commettait une terrible erreur qui aurait des conséquences néfastes pour ses utilisateurs. Son papier, publié dans Springer Link's La technologie, Anthropologie, et dimensions de la responsabilité journal, explore spécifiquement la question de savoir si les humains seraient capables de pardonner à un robot s'il fait quelque chose de mal, d'un point de vue philosophique.

« La discussion universitaire sur l'éthique est souvent axée sur la formulation de normes morales, alors que peu d'attention est accordée à ce qui se passe lorsque les gens ne répondent pas à ces normes, " Nagenborg a dit. " Être capable de pardonner à quelqu'un, cependant, semble être un aspect crucial de l'existence humaine et est étroitement lié à la façon dont nous nous tenons mutuellement responsables de nos actes. Je me demandais quel rôle le pardon pouvait jouer quand on considère les robots comme des entités sociales."

Dans sa récente étude, Nagenborg explore une série de questions éthiques complexes liées au blâme et à la responsabilité en robotique, telles que « comment les utilisateurs humains peuvent-ils gérer le fait qu'un robot a commis une erreur cruciale » et « un robot peut-il être tenu pleinement responsable de ses actions » ? Plutôt que de demander si un robot peut ou doit être puni pour ses erreurs, cependant, il se concentre sur la question de savoir si les humains seraient capables de pardonner aux robots, même dans les cas où leurs actions ont entraîné des dommages irréversibles et graves.

"Prenons un exemple dramatique :une voiture autonome tue quelqu'un que vous aimez, " expliqua Nagenborg. " Seriez-vous prêt et capable de pardonner au véhicule autonome ? Je pourrais imaginer que je peux pardonner à un conducteur humain, mais il semble plus difficile de pardonner à une machine. Je voulais explorer ce que ce défi révèle sur notre relation aux robots dans le contexte du débat académique sur leur statut moral."

De nombreuses études de philosophie et d'éthique mettent en évidence le pardon comme un aspect crucial des interactions entre les êtres humains, car il peut déterminer comment ils réagissent et apprennent à accepter les erreurs des autres. Dans son papier, Nagenborg suppose que le pardon jouera également un rôle clé dans une société où les humains et les robots coexistent, surtout si ces derniers sont affectés à des tâches qui peuvent affecter la vie d'autrui.

"D'un côté, les difficultés à imaginer ce que cela pourrait signifier de pardonner à un robot, démontrer que nous devons être très prudents en tenant un robot responsable de ses actions, " dit Nagenborg. " D'un autre côté, si nous sommes capables de commencer à pardonner aux machines de manière honnête et sérieuse, nous devons être conscients du changement fondamental dans la façon dont nous percevons les robots."

Alors que l'article de Nagenborg est simplement basé sur des spéculations et des idées philosophiques, il ouvre une fenêtre sur un aspect important des interactions homme-robot qui a rarement été exploré auparavant. Son travail pourrait encourager d'autres membres de la communauté éthique à considérer la notion de pardon dans le développement de la robotique et de l'IA, en particulier une fois que les robots commencent à aider les humains de différentes manières. Par dessus tout, Nagenborg espère également rappeler aux chercheurs en robotique la complexité des interactions sociales entre humains et comment cette complexité pourrait un jour se refléter également dans les interactions homme-robot.

« Deux de mes projets de recherche actuels portent sur l'utilisation des mégadonnées et de l'IA dans le sud du monde à des fins de « cartographie des bidonvilles » et de réponses humanitaires, " Nagenborg a ajouté. " Une question clé ici est la question de savoir comment nous pouvons expliquer et justifier la décision prise sur la base de tels systèmes technologiques aux personnes cartographiées. "

© 2020 Réseau Science X