Une nouvelle étude suggère que l'utilisation de machines autonomes augmente la coopération entre les individus.

Des chercheurs du Laboratoire de recherche de l'armée du Commandement du développement des capacités de combat des États-Unis, l'Institut des technologies créatives de l'armée et la Northeastern University ont collaboré à un article publié dans le Actes de l'Académie nationale des sciences .

L'équipe de recherche, dirigé par le Dr Celso de Melo, ARL, en collaboration avec les Drs. Jonathan Gratch, TIC, et Stacy Marsella, NU, a mené une étude sur 1, 225 volontaires qui ont participé à des expériences informatisées impliquant un dilemme social avec des véhicules autonomes.

« Les machines autonomes qui agissent au nom des personnes, telles que les robots, drones et véhicules autonomes - deviennent rapidement une réalité et devraient jouer un rôle de plus en plus important sur le champ de bataille du futur, " a déclaré de Melo. " Les gens sont plus susceptibles de prendre des décisions altruistes pour favoriser l'intérêt collectif lorsqu'on leur demande de programmer des machines autonomes à l'avance plutôt que de prendre la décision en temps réel sur une base d'instant en instant. "

De Melo a déclaré que malgré les promesses d'une efficacité accrue, il n'est pas clair si ce changement de paradigme changera la façon dont les gens décident lorsque leur intérêt personnel est opposé à l'intérêt collectif.

"Par exemple, Un drone de reconnaissance devrait-il donner la priorité à la collecte de renseignements pertinents aux besoins immédiats de l'équipe ou à la mission globale du peloton ?", a demandé de Melo. « Un robot de recherche et de sauvetage devrait-il donner la priorité aux civils locaux ou se concentrer sur les actifs essentiels à la mission ? »

« Notre recherche en PNAS commence à examiner comment ces transformations pourraient modifier les organisations et les relations humaines, " Gratch a dit. " Notre attente, sur la base de certains travaux antérieurs sur les intermédiaires humains, était que les représentants de l'IA pouvaient rendre les gens plus égoïstes et se soucier moins des autres."

Dans le journal, les résultats indiquent que les volontaires ont programmé leurs véhicules autonomes pour qu'ils se comportent de manière plus coopérative que s'ils conduisaient eux-mêmes. D'après les preuves, cela se produit parce que la programmation des machines fait que les récompenses égoïstes à court terme deviennent moins saillantes, menant à des considérations d'objectifs sociétaux plus larges.

"Nous avons été surpris par ces résultats, " dit Gratch. " En réfléchissant à ses choix à l'avance, les gens montrent en fait plus de respect pour la coopération et l'équité. C'est comme si, forcés de réfléchir soigneusement à leurs décisions, les gens accordaient plus de poids aux objectifs prosociaux. Lorsque vous prenez des décisions à chaque instant, en revanche, ils deviennent plus motivés par leur intérêt personnel."

Les résultats montrent en outre que cet effet se produit dans une version abstraite du dilemme social, ce qu'ils disent indique qu'il se généralise au-delà du domaine des véhicules autonomes.

"La décision de programmer des machines autonomes, en pratique, est susceptible d'être réparti entre plusieurs parties prenantes ayant des intérêts concurrents, y compris le gouvernement, fabricants et contrôleurs, " dit de Melo. " Dans les dilemmes moraux, par exemple, la recherche indique que les gens préféreraient les véhicules autonomes d'autres personnes pour maximiser la préservation de la vie (même si cela impliquait de sacrifier le conducteur), alors que leur propre véhicule pour maximiser la préservation de la vie du conducteur."

Au fur et à mesure que ces questions sont débattues, les chercheurs disent qu'il est important de comprendre que dans le cas peut-être plus répandu des dilemmes sociaux - où l'intérêt individuel est opposé à l'intérêt collectif - les machines autonomes ont le potentiel de façonner la façon dont les dilemmes sont résolus et, Donc, ces acteurs ont la possibilité de promouvoir une société plus coopérative.