Crédit :CC0 Domaine public
Une nouvelle enquête massive développée par des chercheurs du MIT révèle des préférences globales distinctes concernant l'éthique des véhicules autonomes, ainsi que certaines variations régionales de ces préférences.
L'enquête a une portée mondiale et une échelle unique, avec plus de 2 millions de participants en ligne de plus de 200 pays pesant sur des versions d'une énigme éthique classique, le « Problème du chariot ». Le problème implique des scénarios dans lesquels un accident impliquant un véhicule est imminent, et le véhicule doit opter pour l'une des deux options potentiellement mortelles. Dans le cas des voitures sans conducteur, cela pourrait signifier dévier vers quelques personnes, plutôt qu'un grand groupe de spectateurs.
"L'étude essaie essentiellement de comprendre les types de décisions morales auxquelles les voitures sans conducteur pourraient avoir recours, " dit Edmond Awad, un post-doctorant au MIT Media Lab et auteur principal d'un nouvel article décrivant les résultats du projet. "Nous ne savons pas encore comment ils devraient faire cela."
Toujours, Awad ajoute, "Nous avons constaté qu'il y a trois éléments que les gens semblent le plus approuver."
En effet, les préférences globales les plus catégoriques de l'enquête sont d'épargner la vie des humains plutôt que celle des autres animaux; épargner la vie de nombreuses personnes plutôt que quelques-unes ; et préserver la vie des jeunes, plutôt que des personnes âgées.
« Les principales préférences étaient dans une certaine mesure universellement acceptées, " Awad note. " Mais le degré auquel ils sont d'accord ou non avec cela varie selon les différents groupes ou pays. " Par exemple, les chercheurs ont trouvé une tendance moins prononcée à favoriser les jeunes, plutôt que les personnes âgées, dans ce qu'ils ont défini comme un groupe de pays « orientaux », dont beaucoup en Asie.
Le papier, "L'expérience de la machine morale, " est publié dans La nature .
Les auteurs sont Awad; Sohan Dsouza, un doctorant au Media Lab; Richard Kim, un assistant de recherche au Media Lab; Jonathan Schulz, un post-doctorat à l'Université Harvard; Joseph Henrich, un professeur à Harvard; Azim Shariff, professeur agrégé à l'Université de la Colombie-Britannique; Jean-François Bonnefon, professeur à la Toulouse School of Economics; et Iyad Rahwan, professeur agrégé en arts et sciences médiatiques au Media Lab.
Exemple de situation proposée sur la plateforme Moral Machine. Crédit :Edmond Awad et al. La nature.
Awad est post-doctorant dans le groupe Scalable Cooperation du MIT Media Lab, qui est dirigé par Rahwan.
Pour mener l'enquête, les chercheurs ont conçu ce qu'ils appellent "Moral Machine, " un jeu en ligne multilingue dans lequel les participants pouvaient exprimer leurs préférences concernant une série de dilemmes auxquels les véhicules autonomes pourraient être confrontés. Par exemple :les véhicules autonomes devraient-ils épargner la vie de passants respectueux de la loi, ou, alternativement, des piétons contrevenants qui pourraient être en train de marcher sur des rails ? (La plupart des personnes interrogées ont opté pour le premier.)
En tout, "Moral Machine" a compilé près de 40 millions de décisions individuelles de personnes interrogées dans 233 pays ; l'enquête a recueilli 100 réponses ou plus de 130 pays. Les chercheurs ont analysé les données dans leur ensemble, tout en répartissant les participants en sous-groupes définis par âge, éducation, genre, le revenu, et les opinions politiques et religieuses. Il y avait 491, 921 répondants qui ont offert des données démographiques.
Les chercheurs n'ont pas trouvé de différences marquées dans les préférences morales basées sur ces caractéristiques démographiques, mais ils ont trouvé de plus grands "groupes" de préférences morales basées sur des affiliations culturelles et géographiques. Ils ont défini « occidental, " " orientale, " et des grappes de pays " du sud ", et trouvé des variations plus prononcées le long de ces lignes. Par exemple :les répondants des pays du Sud ont une tendance relativement plus forte à privilégier les jeunes épargnants plutôt que les personnes âgées, surtout par rapport à l'amas oriental.
Diagramme présentant la différence entre la probabilité que différentes catégories de personnes soient épargnées dans un accident de voiture. Dans ce cas, la différence est en faveur des gens du côté droit. Fig. b :Avantage ou désavantage relatif pour chaque catégorie de personnes par rapport à un adulte (homme ou femme). Par exemple, la probabilité qu'une fille soit épargnée est 0,15 plus élevée que celle d'un adulte épargné. Crédit :Edmond Awad et al. La nature.
Awad suggère que la reconnaissance de ces types de préférences devrait être un élément fondamental pour informer la discussion de la sphère publique sur ces questions. Dans toutes les régions, since there is a moderate preference for sparing law-abiding bystanders rather than jaywalkers, knowing these preferences could, en théorie, inform the way software is written to control autonomous vehicles.
"The question is whether these differences in preferences will matter in terms of people's adoption of the new technology when [vehicles] employ a specific rule, " il dit.
Rahwan, pour sa part, notes that "public interest in the platform surpassed our wildest expectations, " allowing the researchers to conduct a survey that raised awareness about automation and ethics while also yielding specific public-opinion information.
"On the one hand, we wanted to provide a simple way for the public to engage in an important societal discussion, " Rahwan says. "On the other hand, we wanted to collect data to identify which factors people think are important for autonomous cars to use in resolving ethical tradeoffs."
Beyond the results of the survey, Awad suggests, seeking public input about an issue of innovation and public safety should continue to become a larger part of the dialogue surrounding autonomous vehicles.
"What we have tried to do in this project, and what I would hope becomes more common, is to create public engagement in these sorts of decisions, " Awad says.
