Imaginez qu'une voiture sans conducteur à la pointe de la technologie sillonne une route avec un passager handicapé de 90 ans. Une jeune mère avec un enfant en bas âge s'avance sur la route. La voiture doit prendre une décision :foncer sur la mère et l'enfant et les tuer, ou carrière dans un mur et tuer le passager.

C'est une variante du problème du chariot, qui domine la réflexion académique et populaire sur l'éthique des voitures sans conducteur. Le problème est que de tels débats non seulement rejettent la complexité du système dans lequel les voitures autonomes existeront, mais sont vraiment des harengs rouges moraux. Les vrais problèmes éthiques résident dans les préoccupations politiques et de pouvoir avec les voitures sans conducteur.

Partout dans le monde, les gouvernements s'intéressent de près aux voitures autonomes. Le gouvernement allemand a élaboré des directives éthiques pour les voitures sans conducteur. Le gouvernement britannique a promis des voitures sans conducteur sur la route d'ici 2021, et le gouvernement russe d'ici fin 2018. La Chine a des plans ambitieux pour connecter les voitures sans conducteur à Internet et installer des capteurs sur les routes et les feux de circulation d'ici 2025.

Le plus révélateur est la manière dont les voitures autonomes figurent dans le livre blanc de l'UE sur l'avenir de l'Europe en 2025, publié en mars 2017. Ils constituent une partie révélatrice d'un aperçu de ce à quoi pourrait ressembler l'Europe dans un avenir où les pays de l'UE se sont effectivement joints pour devenir un seul super-État fédéral. Dans ce scénario, le livre blanc dit, les voitures sans conducteur vont fleurir, volant sans entrave à travers les frontières de ville en ville.

Il y a une raison pour laquelle les gouvernements sont si enthousiastes envers les voitures sans conducteur - et ce n'est pas seulement à cause des avantages économiques potentiels. Ils offrent la possibilité d'un suivi encore plus grand et même d'un contrôle de chaque mouvement des citoyens. Loin de nous libérer, les voitures sans conducteur menacent de favoriser de nouvelles formes de surveillance et d'oppression.

Une voiture sans conducteur est un ordinateur sur roues, l'appareil mobile ultime connecté à Internet. hérissée de capteurs, il fournit un flux constant d'informations dans les deux sens. La voiture envoie des informations sur ses performances au constructeur. Il reçoit les mises à jour logicielles, des signaux de contrôle sur les ajustements de son comportement. Le constructeur sait où se trouve la voiture, quelles sont les conditions et la température de la route et comment le véhicule se comporte à une vitesse donnée.

L'assureur de la voiture peut recevoir des informations minute par minute sur l'état de la voiture, emplacement, la vitesse et l'état de la route, et pourrait modifier l'assurance en conséquence. Il pourrait même donner un avertissement de dix minutes de perte de couverture et arrêter la voiture.

Pendant ce temps, les bases de données gouvernementales seront également susceptibles de savoir où se trouve la voiture, s'il est censé être là et où il va. Et même, en utilisant l'analyse prédictive, où il ira pour son prochain voyage. Les autoroutes intelligentes géreront les flux de trafic, ralentir les voitures sans conducteur dans le cadre d'un flux de communication entre la voiture et la route. Dans les villes intelligentes, les feux de circulation redirigeront les voitures vers les détours en fonction des calculs et des prévisions sur les embouteillages, travaux routiers, ou les exigences de l'État.

Des marchés sur des itinéraires rapides à travers les villes et vers des destinations centrales peuvent être créés. Les entreprises peuvent payer pour que les employés utilisent des itinéraires virtuels prioritaires. Les carnets de voyage peuvent indiquer très clairement où vous êtes allé et quand. Les raisons de votre voyage peuvent être déduites de manière prévisible du paysage, des destinations et du timing.

Fin de l'autonomie

Depuis plus de 130 ans, les voitures ont représenté le summum de l'autonomie, individualité et liberté démocratique. Nos déplacements en voiture sont privés et anonymes. On peut aller où on veut et quand on veut. Nous n'avons à le dire à personne. Et nous conservons la responsabilité de savoir si nous obéissons à la loi. Les voitures sans conducteur mettront fin à cela.

Maintenant fabricants, les gouvernements et les autorités municipales sauront où nous allons, ce que nous faisons et quand. Si quelqu'un n'aime pas ce que nous faisons, ils pourront nous arrêter, retirer les garanties techniques et accidents, nous arrêter d'utiliser des routes ou des rues particulières, ou tout simplement nous fermer. Ce ne sera pas la voiture autonome, mais les autorités et les systèmes qui font fonctionner et entretiennent cette voiture, qui attirent et envoient des informations vers et depuis la voiture.

Les voitures sans conducteur annonceront une nouvelle ère de contrôle citoyen. Dans la rhétorique de nous rendre plus sûrs et de réduire les risques, le pouvoir sera enlevé et remis aux autorités centrales – qu'il s'agisse de villes, gouvernements ou commissions. Pour nous mettre en sécurité, les gouvernements nous laisseront impuissants.

Désormais, les contrôleurs peuvent simplement modifier notre itinéraire à leurs propres fins, que ce soit pour éviter les embouteillages ou pour dégager une route pour un dignitaire. Maintenant, ils peuvent nous envoyer dans des magasins particuliers, ou directement à un poste de police. Désormais, les contrôleurs peuvent gérer des populations de voitures pour répondre aux objectifs du conseil ou du gouvernement.

Dans un État démocratique, le flux croissant d'informations personnalisées vers l'autorité centralisée fournira la base de la réglementation et de l'application. Ses nouveaux citoyens gérés seront la cible de coups de pouce comportementaux et de publicités affluant dans la voiture sans conducteur. Dans l'état dictatorial, les autorités peuvent vous empêcher d'aller à une manifestation, ou vous empêcher d'aller à l'église.

Et ces systèmes gérés de manière centralisée, qui sera essentiel pour la sécurité des voitures autonomes, ne sont pas seulement ouverts aux défaillances technologiques inévitables des systèmes complexes, mais aussi au piratage et aux attaques d'autres États et individus. Pourquoi pirater une voiture, quand vous pouvez pirater tout un système de la ville et arrêter la circulation, ou crash 30, 000 voitures les unes dans les autres ?

En réfléchissant à l'éthique des voitures autonomes, nous devons dépasser les contraintes des chariots et des leviers pour un agenda plus large qui aborde les concepts d'autonomie, communauté, transparence, identité, valeur et empathie. Notre débat éthique doit aborder les changements de pouvoir, les responsabilités politiques et les droits humains que notre vision des voitures autonomes peut exiger d'être sacrifiés.

Cet article a été initialement publié sur The Conversation. Lire l'article original.