De nombreuses discussions et réflexions éthiques sur les voitures autonomes se sont concentrées sur des dilemmes tragiques, comme des hypothèses dans lesquelles une voiture doit décider si elle doit écraser un groupe d'écoliers ou plonger d'une falaise, tuant ses propres occupants. Mais ce genre de situations sont des cas extrêmes.

Comme l'accident le plus récent - dans lequel une voiture autonome a tué un piéton à Tempe, Arizona – démontre, le mondain, situations quotidiennes à chaque passage pour piétons, le virage et l'intersection présentent des dilemmes éthiques beaucoup plus difficiles et plus vastes.

L'éthique des extrêmes

En tant que philosophe travaillant avec des ingénieurs du Centre de recherche automobile de Stanford, J'ai d'abord été surpris que nous passions nos réunions de laboratoire à discuter de ce que je pensais être une question facile :comment une voiture autonome devrait-elle s'approcher d'un passage pour piétons ?

Mon hypothèse était que nous réfléchirions à la façon dont une voiture devrait décider entre la vie de ses passagers et celle des piétons. Je savais comment réfléchir à de tels dilemmes parce que ces scénarios de crash ressemblent à un célèbre casse-tête philosophique appelé le « problème du chariot ». Imaginez qu'un chariot en fuite se précipite sur les rails et qu'il heurte forcément un groupe de cinq personnes ou une seule personne. En tueriez-vous un pour en sauver cinq ?

Cependant, de nombreux philosophes doutent aujourd'hui que l'investigation de telles questions soit une voie de recherche fructueuse. Barbara Fried, un collègue à Stanford, par exemple, a soutenu que les dilemmes tragiques font croire aux gens que les dilemmes éthiques surviennent principalement dans des circonstances extrêmes et désastreuses.

En réalité, Les dilemmes éthiques sont omniprésents. Tous les jours, les situations banales sont étonnamment désordonnées et complexes, souvent de manière subtile. Par exemple :votre ville devrait-elle consacrer de l'argent à un programme de prévention du diabète ou à davantage de travailleurs sociaux ? Si votre ministère local de la Santé publique embauche un autre inspecteur pour les normes d'hygiène des restaurants, ou continuer un programme de distribution gratuite de seringues et de matériel d'injection ?

Il est extrêmement difficile de répondre à ces questions en raison des incertitudes quant aux conséquences, telles que qui sera affecté et dans quelle mesure. Les solutions que les philosophes ont proposées pour des situations extrêmes et désespérées sont ici de peu d'utilité.

Le problème est similaire avec les voitures autonomes. Réfléchir à des situations extrêmes et à des scénarios d'accident ne peut pas aider à répondre aux questions qui se posent dans des situations banales.

Un défi aux passages pour piétons

On pourrait demander, qu'est-ce qui peut être si difficile dans les situations de circulation banales comme l'approche d'un passage pour piétons, traverser une intersection, ou faire un virage à gauche. Même si la visibilité au passage pour piétons est limitée et qu'il est parfois difficile de dire si un piéton à proximité veut réellement traverser la rue, les conducteurs y font face tous les jours.

Mais pour les voitures autonomes, de telles situations banales posent un défi de deux manières.

D'abord, il y a le fait que ce qui est facile pour les humains est souvent difficile pour les machines. Qu'il s'agisse de reconnaître des visages ou de faire du vélo, nous sommes bons pour la perception et les tâches mécaniques parce que l'évolution a construit ces compétences pour nous. Cette, cependant, rend ces compétences difficiles à enseigner ou à développer. C'est ce qu'on appelle le "paradoxe de Moravec".

Seconde, dans un avenir où toutes les voitures seront des voitures autonomes, de petits changements dans le comportement de conduite feraient une grande différence dans l'ensemble. Les décisions prises par les ingénieurs aujourd'hui, en d'autres termes, déterminera non pas comment une voiture conduit, mais comment toutes les voitures conduisent. Les algorithmes deviennent des politiques.

Les ingénieurs apprennent aux ordinateurs à reconnaître les visages et les objets à l'aide de méthodes d'apprentissage automatique. Ils peuvent également utiliser l'apprentissage automatique pour aider les voitures autonomes à imiter la conduite des humains. Mais ce n'est pas une solution :cela ne résout pas le problème selon lequel des décisions de grande envergure concernant la sécurité et la mobilité sont prises par les ingénieurs.

Par ailleurs, les voitures autonomes ne devraient pas conduire comme les gens. Les humains ne sont pas vraiment de très bons conducteurs. Et ils conduisent de manière éthiquement troublante, décider s'il faut céder aux passages pour piétons, en fonction de l'âge des piétons, race et revenu. Par exemple, Des chercheurs de Portland ont découvert que les piétons noirs sont dépassés par deux fois plus de voitures et doivent attendre un tiers de plus que les piétons blancs avant de pouvoir traverser.

Les voitures autonomes devraient conduire de manière plus sûre, et plus équitablement que les gens.

Éthique banale

Les problèmes éthiques s'aggravent lorsque vous vous occupez des conflits d'intérêts qui surgissent dans des situations banales telles que les passages pour piétons, virages et intersections.

Par exemple, la conception des voitures autonomes doit équilibrer la sécurité des autres – piétons ou cyclistes – avec les intérêts des passagers des voitures. Dès qu'une voiture va plus vite que la marche, il est incapable d'empêcher de percuter un enfant qui pourrait courir sur la route à la dernière seconde. Mais le rythme de marche est, bien sûr, beaucoup trop lent. Tout le monde doit se rendre à des endroits. Alors, comment les ingénieurs doivent-ils trouver l'équilibre entre sécurité et mobilité ? Et quelle vitesse est suffisamment sûre ?

Il y a aussi d'autres questions éthiques qui se posent. Les ingénieurs doivent faire des compromis entre la mobilité et les impacts environnementaux. Lorsqu'elles sont appliquées à toutes les voitures du pays, de petits changements dans l'accélération contrôlée par ordinateur, les virages et le freinage peuvent avoir des effets considérables sur la consommation d'énergie et les émissions polluantes. Comment les ingénieurs doivent-ils concilier efficacité des déplacements et impact environnemental ?

Quel devrait être l'avenir du trafic ?

Les situations banales posent de nouveaux problèmes d'ingénierie et d'éthique, mais ils amènent aussi les gens à remettre en question les hypothèses de base du système de circulation.

Pour moi-même, J'ai commencé à me demander si nous avions besoin d'endroits appelés « passages pour piétons » ? Après tout, les voitures autonomes peuvent potentiellement permettre de traverser une route en toute sécurité.

Et ce ne sont pas seulement les passages pour piétons qui deviennent inutiles. Les feux de circulation aux intersections pourraient également appartenir au passé. Les humains ont besoin de feux de circulation pour s'assurer que tout le monde puisse traverser l'intersection sans collision ni chaos. Mais les voitures autonomes pourraient se coordonner entre elles en douceur.

La plus grande question ici est la suivante :étant donné que les voitures autonomes sont meilleures que les conducteurs humains, pourquoi les voitures devraient-elles être soumises à des règles conçues pour la faillibilité et les erreurs humaines ? Et pour prolonger cette expérience de pensée, considérer aussi la question plus générale :si nous, en tant que société, pourrait concevoir notre système de trafic à partir de zéro, à quoi voudrions-nous qu'il ressemble ?

Parce que ces questions difficiles concernent tout le monde dans une ville ou dans une société, ils exigent qu'une ville ou une société s'accorde sur les réponses. Cela signifie équilibrer les intérêts concurrents d'une manière qui fonctionne pour tout le monde, que les gens pensent uniquement aux passages pour piétons ou au système de circulation dans son ensemble.

Avec des voitures autonomes, les sociétés peuvent reconcevoir leurs systèmes de circulation. Du passage pour piétons à la conception globale de la circulation, ce sont des situations banales qui soulèvent des questions très difficiles. Les situations extrêmes sont une distraction.

Le problème du chariot ne répond pas à ces questions difficiles.

Cet article a été initialement publié sur The Conversation. Lire l'article original.