La « blancheur » écrasante de l'intelligence artificielle – des images de stock et des robots cinématographiques aux dialectes des assistants virtuels – éloigne les personnes de couleur de la façon dont l'humanité envisage son avenir technologique.

C'est selon les experts de l'Université de Cambridge, qui suggèrent que les représentations et les stéréotypes actuels sur l'IA risquent de créer une main-d'œuvre « racialement homogène » d'aspirants technologues, construire des machines avec des biais intégrés à leurs algorithmes.

Ils soutiennent que les représentations culturelles de l'IA en tant que Blanc doivent être contestées, car ils n'offrent pas un avenir « post-racial » mais plutôt un avenir dont les personnes de couleur sont simplement effacées.

Les chercheurs, du Leverhulme Center for the Future of Intelligence (CFI) de Cambridge, dire que l'IA, comme d'autres tropes de science-fiction, a toujours reflété la pensée raciale dans notre société.

Ils soutiennent qu'il existe une longue tradition de stéréotypes raciaux bruts en ce qui concerne les extraterrestres – de l'extraterrestre « orientalisé » de Ming l'Impitoyable à la caricature caribéenne de Jar Jar Binks.

Mais l'intelligence artificielle est décrite comme blanche parce que, contrairement aux espèces d'autres planètes, L'IA a des attributs utilisés pour "justifier le colonialisme et la ségrégation" dans le passé :intelligence supérieure, professionnalisme et puissance.

« Étant donné que la société a, depuis des siècles, promu l'association de l'intelligence avec les Européens blancs, il faut s'attendre à ce que lorsqu'on demande à cette culture d'imaginer une machine intelligente, elle imagine une machine blanche, " a déclaré le Dr Kanta Dihal, qui dirige l'initiative « Décoloniser l'IA » de CFI.

"Les gens font confiance à l'IA pour prendre des décisions. Les représentations culturelles favorisent l'idée que l'IA est moins faillible que les humains. Dans les cas où ces systèmes sont racialisés comme blancs, cela pourrait avoir des conséquences dangereuses pour les humains qui ne le sont pas, " elle a dit.

Avec son collègue le Dr Stephen Cave, Dihal est l'auteur d'un nouvel article sur la décolonisation de l'IA, publié aujourd'hui dans la revue Philosophie et technologie .

L'article rassemble des recherches récentes dans divers domaines, y compris l'interaction homme-machine et la théorie de la race critique, démontrer que les machines peuvent être racialisées, et que cela perpétue les préjugés raciaux du "monde réel".

Cela comprend des travaux sur la façon dont les robots sont perçus comme ayant des identités raciales distinctes, avec les robots noirs recevant plus d'abus en ligne, et une étude montrant que les gens se sentent plus proches des agents virtuels lorsqu'ils perçoivent une identité raciale partagée.

"L'une des interactions les plus courantes avec la technologie de l'IA se fait via des assistants virtuels dans des appareils tels que les smartphones, qui parlent en anglais standard de la classe moyenne blanche, ", a déclaré Dihal. "Les idées d'ajouter des dialectes noirs ont été rejetées comme trop controversées ou en dehors du marché cible."

Les chercheurs ont mené leur propre enquête sur les moteurs de recherche, et a constaté que tous les résultats non abstraits pour l'IA présentaient des caractéristiques caucasiennes ou étaient littéralement de couleur blanche.

Un exemple typique d'images d'IA ornant les couvertures de livres et les articles des médias grand public est Sophia :l'humanoïde hyper-caucasienne déclarée « championne de l'innovation » par le programme de développement des Nations Unies. Mais ce n'est qu'une itération récente, disent les chercheurs.

"Les images de stock pour l'IA distillent les visualisations des machines intelligentes dans la culture populaire occidentale telle qu'elle s'est développée au fil des décennies, " dit Cave, Directeur général de CFI.

"De Terminator à Blade Runner, Métropole à Ex Machina, tous sont joués par des acteurs blancs ou sont visiblement blancs à l'écran. Les androïdes en métal ou en plastique sont dotés de traits blancs, comme dans I, Robot. Même l'IA désincarnée - de HAL-9000 à Samantha in Her - a des voix blanches. Ce n'est que très récemment que nous avons quelques émissions de télévision, comme Westworld, utilisé des personnages d'IA avec un mélange de tons de peau."

Cave et Dihal soulignent que même des œuvres clairement basées sur la rébellion des esclaves, tels que Blade Runner, dépeignent leurs IA comme blanches. "L'IA est souvent décrite comme déjouant et surpassant l'humanité, " a déclaré Dihal. " La culture blanche ne peut pas imaginer être prise en charge par des êtres supérieurs ressemblant à des races qu'elle a historiquement considérées comme inférieures. "

« Les images de l'IA ne sont pas des représentations génériques de machines ressemblant à des humains :leur blancheur est une approximation de leur statut et de leur potentiel, " a ajouté Dihal.

"Les représentations de l'IA en tant que blanc situent les machines dans une hiérarchie de pouvoir au-dessus des groupes actuellement marginalisés, et relègue les personnes de couleur à des positions inférieures à celles des machines. Alors que les machines deviennent de plus en plus essentielles à la prise de décision automatisée dans des domaines tels que l'emploi et la justice pénale, cela pourrait être très conséquent."

"La blancheur perçue de l'IA rendra plus difficile pour les personnes de couleur d'avancer dans le domaine. Si la démographie des développeurs ne se diversifie pas, L'IA risque d'exacerber les inégalités raciales, " a déclaré Dihal.