Montrer des préjugés envers les autres ne nécessite pas un niveau élevé de capacité cognitive et pourrait facilement être manifesté par des machines artificiellement intelligentes, de nouvelles recherches ont suggéré.

Des experts en informatique et en psychologie de l'Université de Cardiff et du MIT ont montré que des groupes de machines autonomes pouvaient démontrer des préjugés en identifiant simplement, copier et apprendre ce comportement les uns des autres.

Il peut sembler que les préjugés soient un phénomène humain spécifique qui nécessite la cognition humaine pour se faire une opinion, ou à stéréotyper, une certaine personne ou un certain groupe.

Bien que certains types d'algorithmes informatiques aient déjà montré des préjugés, comme le racisme et le sexisme, basé sur l'apprentissage des archives publiques et d'autres données générées par les humains, ce nouveau travail démontre la possibilité que l'IA fasse évoluer elle-même des groupes préjudiciables.

Les nouvelles découvertes, qui ont été publiés dans la revue Rapports scientifiques , sont basées sur des simulations informatiques de la façon dont des individus ayant des préjugés similaires, ou des agents virtuels, peuvent former un groupe et interagir les uns avec les autres.

Dans un jeu de concessions mutuelles, chaque individu décide s'il fait un don à quelqu'un de son propre groupe ou d'un autre groupe, en fonction de la réputation d'un individu ainsi que de sa propre stratégie de don, qui inclut leurs niveaux de préjugés envers les étrangers.

Au fur et à mesure que le jeu se déroule et qu'un superordinateur accumule des milliers de simulations, chaque individu commence à apprendre de nouvelles stratégies en copiant les autres soit au sein de son propre groupe, soit dans l'ensemble de la population.

Co-auteur de l'étude Professeur Roger Whitaker, du Crime and Security Research Institute de l'Université de Cardiff et de la School of Computer Science and Informatics, a déclaré : « En exécutant ces simulations des milliers et des milliers de fois, nous commençons à comprendre comment évoluent les préjugés et les conditions qui les favorisent ou les entravent.

"Nos simulations montrent que les préjugés sont une puissante force de la nature et à travers l'évolution, il peut facilement devenir incitatif dans les populations virtuelles, au détriment d'une connectivité plus large avec les autres. La protection contre les groupes préjudiciables peut conduire par inadvertance des individus à former d'autres groupes préjudiciables, entraînant une fracture de la population. Un tel préjugé répandu est difficile à renverser. »

Les résultats impliquent que les individus mettent à jour leurs niveaux de préjugés en copiant de préférence ceux qui obtiennent un gain à court terme plus élevé, ce qui signifie que ces décisions ne nécessitent pas nécessairement des capacités cognitives avancées.

"Il est possible que des machines autonomes capables de s'identifier avec discrimination et de copier les autres puissent à l'avenir être sensibles aux phénomènes préjudiciables que nous voyons dans la population humaine, " continua le professeur Whitaker.

"Beaucoup des développements de l'IA que nous voyons impliquent l'autonomie et la maîtrise de soi, ce qui signifie que le comportement des appareils est également influencé par les autres autour d'eux. Les véhicules et l'Internet des objets en sont deux exemples récents. Notre étude donne un aperçu théorique où des agents simulés font périodiquement appel à d'autres pour une sorte de ressource."

Une autre conclusion intéressante de l'étude est que, dans des conditions particulières, qui comprennent des sous-populations plus distinctes présentes au sein d'une population, il était plus difficile aux préjugés de s'installer.

"Avec un plus grand nombre de sous-populations, les alliances de groupes non préjudiciables peuvent coopérer sans être exploitées. Cela diminue également leur statut de minorité, réduire la susceptibilité aux préjugés qui s'installent. Cependant, cela nécessite également des circonstances où les agents ont une plus grande disposition à interagir en dehors de leur groupe, " conclut le professeur Whitaker.