Une équipe de chercheurs de l'Université de Hartford, l'Université du Connecticut, et le Max Planck Institute for Intelligent Systems ont récemment proposé une étude de cas, paradigme de comportement basé sur des principes pour assurer le comportement éthique des machines autonomes. Leur papier, Publié dans Actes de l'IEEE , soutient que le comportement éthiquement significatif des systèmes autonomes devrait être guidé par des principes éthiques explicites, déterminé par un consensus d'éthiciens.

"Cette année marque le 50e anniversaire du film 2001 :L'Odyssée de l'Espace , " Michael Anderson, l'un des chercheurs qui a mené l'étude a déclaré à TechXplore. "En lisant La création de 2001 :une odyssée de l'espace au tournant du siècle, cela m'a frappé qu'une grande partie de la capacité de HAL avait perdu son aura de science-fiction et était sur le point d'être réalisée. Cela m'a aussi frappé qu'ils s'étaient tellement trompés sur l'éthique :si HAL était au coin de la rue, il était temps d'avoir la bonne éthique."

Anderson et ses collègues ont travaillé à la découverte de principes éthiques pouvant être incorporés dans des machines fonctionnant de manière autonome, dans le cadre d'un projet appelé Machine Ethics. Ils pensent que le comportement de l'intelligence artificielle doit être guidé par des principes éthiques. Ces principes, déterminé par un consensus d'éthiciens, doit non seulement contribuer à garantir le comportement éthique de systèmes complexes et dynamiques, mais aussi servir de base pour justifier ce comportement.

Les chercheurs ont développé un modèle extensible, paradigme général de comportement fondé sur des cas et des principes appelé CPB. Dans ce paradigme, un système autonome décide de sa prochaine action en utilisant un principe abstrait à partir de cas pour lesquels les éthiciens se sont mis d'accord sur l'action correcte à entreprendre.

« Le CPB utilise l'apprentissage automatique pour faire abstraction d'un principe de préférence éthique à partir de caractéristiques éthiquement pertinentes de cas particuliers de dilemmes éthiques, où le choix éthiquement préférable est clair, " a expliqué Anderson. " Un système peut utiliser ce principe pour déterminer l'action éthiquement préférable à un moment donné. "

Le paradigme représente explicitement ces principes afin qu'ils puissent également aider à justifier les actions d'un système autonome. En d'autres termes, Le CPB peut aider à mieux comprendre le comportement d'un robot, offrant des explications logiques sur les raisons pour lesquelles il a choisi d'agir d'une manière particulière.

"Lorsque nous essayions de déterminer comment le robot saurait qu'il se trouvait dans une situation où son éthique devrait entrer en jeu, on s'est rendu compte qu'il était toujours dans un tel état :l'éthique ne consiste pas simplement à ne pas choisir les actions incorrectes, il s'agit de choisir laquelle de toutes ses actions est éthiquement préférable dans la situation donnée, " a déclaré Anderson. " Compte tenu de cela, CPB s'engage à déterminer les actions éthiquement préférables quelle que soit la situation, et le fait chaque fois que la situation change."

Le but ultime de l'étude était de déterminer les caractéristiques et les devoirs éthiquement pertinents dans le domaine des soins aux personnes âgées, identifier les principes qui peuvent guider le comportement des robots de soins aux personnes âgées. Cependant, le même paradigme peut également être appliqué aux robots opérant dans d'autres domaines. À l'avenir, il pourrait également fournir des conseils éthiques pour les systèmes autres que les robots, tels que les agents de santé virtuels.

"Nous prônons une approche de devoir prima facie de l'éthique, où un devoir peut prévaloir sur un autre selon la situation, " a déclaré Anderson. " En d'autres termes, il n'y a pas de hiérarchie stricte comme il y en a, dire, dans les lois d'Asimov. À l'avenir, nous pensons que notre schéma de représentation caractéristique/devoir sera utile pour saisir l'essence de tous les dilemmes éthiques."

La contribution de Vincent Berenz au projet, Espiègle, récemment publié dans Robotique et automatisation IEEE , permet un comportement réactif et interruptible dans les robots. Un tel comportement est essentiel si le robot doit répondre correctement aux préoccupations éthiques en constante évolution.

"Nous pensons que les éthiciens gagnent en expertise en pensant longuement et sérieusement à l'éthique, " a déclaré Anderson. "Nous ne disons pas qu'ils se comportent nécessairement mieux eux-mêmes, être éthique est difficile pour tout le monde, mais qu'ils comprennent mieux ce qu'il faut faire et sont mieux à même de défendre ces jugements que les profanes. Une telle réflexion approfondie appliquée à des cas simples peut être utile pour prendre des décisions sur des cas plus difficiles qui présentent les mêmes caractéristiques éthiques pertinentes. »

À l'avenir, des paradigmes tels que CPB pourraient garantir que les robots et les machines intelligentes prennent des décisions éthiques cohérentes, tout en permettant aux humains de mieux comprendre leurs choix. Les chercheurs travaillent maintenant à élargir le champ de leurs travaux, afin d'aborder une plus grande variété de problèmes éthiques.

« Nous prévoyons d'étendre nos recherches, ajouter plus d'actions et considérer des caractéristiques plus pertinentes sur le plan éthique afin de développer un principe éthique pouvant être utilisé pour orienter le comportement de tous les futurs robots de soins aux personnes âgées, " a déclaré Anderson. " Nous allons tester ces nouvelles idées sur un robot PAL Robotics TIAGo. "

© 2018 Réseau Science X