L'IA « Sophia » au sommet mondial AI for Good, 2018. Crédit :ITU Pictures/Wikimedia, CC PAR
Avec la prolifération des robots féminins comme Sophia et la popularité des assistantes virtuelles féminines comme Siri (Apple), Alexa (Amazon), et Cortana (Microsoft), l'intelligence artificielle semble avoir un problème de genre.
Ce déséquilibre entre les sexes dans l'IA est une tendance omniprésente qui a suscité de vives critiques dans les médias (même l'Unesco a mis en garde contre les dangers de cette pratique) car elle pourrait renforcer les stéréotypes selon lesquels les femmes sont des objets.
Mais pourquoi la féminité est-elle injectée dans des objets intelligents artificiels ? Si nous voulons freiner l'utilisation massive du genre féminin dans l'IA, nous devons mieux comprendre les racines profondes de ce phénomène.
Rendre l'inhumain plus humain
Dans un article publié dans la revue Psychologie &Marketing , nous soutenons que la recherche sur ce qui rend les gens humains peut fournir une nouvelle perspective sur les raisons pour lesquelles la féminisation est systématiquement utilisée dans l'IA. Nous suggérons que si les femmes ont tendance à être plus objectivées dans l'IA que les hommes, ce n'est pas seulement parce qu'ils sont perçus comme l'assistant parfait, mais aussi parce que les gens attribuent plus d'humanité aux femmes (par rapport aux hommes) en premier lieu.
Pourquoi? Parce que les femmes sont perçues comme plus chaleureuses et plus susceptibles de ressentir des émotions que les hommes, le genre féminin des objets d'IA contribue à les humaniser. La chaleur et l'expérience (mais pas la compétence) sont en effet considérées comme des qualités fondamentales pour être un humain à part entière mais font défaut aux machines.
S'appuyant sur les théories de la déshumanisation et de l'objectivation, nous montrons à travers cinq études avec un échantillon total de plus de 3, 000 participants qui :
Nous avons utilisé plusieurs mesures différentes de l'humanité perçue, par rapport aux animaux et aux machines. Par exemple, pour mesurer l'humanité flagrante des robots femelles et mâles par rapport aux animaux, nous avons utilisé l'échelle d'humanisation de l'ascension basée sur l'illustration classique de la « marche du progrès ». Nous avons explicitement demandé aux répondants en ligne d'indiquer à quel point ils percevaient « évolués » les bots féminins ou masculins, en utilisant une progression continue des singes anciens aux humains modernes.
Pour mesurer l'humanité perçue flagrante des robots féminins et masculins par rapport aux machines, nous avons créé une échelle qui mesure la (dés)humanisation mécaniste flagrante, en imaginant l'évolution de l'homme de robot à humain (au lieu de singe à humain). Bien sûr, nous avons créé à la fois une version féminine et une version masculine de chacune de ces échelles.
D'autres mesures ont capturé des perceptions plus subtiles et implicites de l'humanité, en demandant aux répondants le niveau d'émotions qu'ils attribuent aux bots masculins et féminins. On dit que certaines émotions distinguent les humains des machines (par exemple, "amical, " "aime s'amuser"), et d'autres émotions pour distinguer les humains des animaux (c. "organisé, " "poli"). Enfin, nous avons également utilisé un test d'association implicite pour déterminer si les bots féminins sont davantage associés au concept d'« humain » que de « machine » que les bots masculins.
Le fantôme dans la machine
Alors que nous avons constaté que les femmes et les robots féminins sont perçus comme plus humains sur la plupart des mesures subtiles et flagrantes et implicites de l'humanité, nous avons également constaté que les hommes et les robots masculins sont perçus comme plus humains sur les dimensions négatives des mesures subtiles de l'humanité. Pris ensemble, ces résultats indiquent que les robots féminins ne sont pas seulement dotés de qualités humaines plus positives que les robots masculins (sexisme bienveillant), mais qu'ils sont également perçus comme plus humains et sont censés être plus enclins à considérer nos besoins uniques dans un contexte de service.
Ces résultats peuvent indiquer une nouvelle explication possible de la raison pour laquelle les bots féminins sont favorisés par rapport à leurs homologues masculins, avec des gens préférant les machines intelligentes féminines parce que ces machines sont plus fortement associées à l'humanité.
Si la féminité est utilisée pour humaniser des entités non humaines, cette recherche suggère que traiter les femmes comme des objets dans l'IA peut résider précisément dans la reconnaissance qu'elles ne le sont pas. L'hypothèse populaire, bien que, souvent appelée l'hypothèse de la déshumanisation, est qu'il est nécessaire de considérer les membres de l'exogroupe comme des animaux ou des instruments avant de les objectiver. En d'autres termes, la déshumanisation serait un préalable à l'objectivation, les cibles d'objectivation se voyant généralement refuser leur humanité. Contrairement à cette opinion dominante, la transformation des femmes en objets dans l'IA pourrait se produire non pas parce que les femmes sont perçues comme des sous-humains, mais parce qu'ils sont perçus comme des surhumains en premier lieu.
Ceci rejoint l'affirmation de Martha C. Nussbaum :« L'objectivation consiste à faire en une chose… quelque chose qui n'est vraiment pas une chose » (Nussbaum, 1995, p. 256-7). Cela correspond également au point de vue de Kate Manne sur la misogynie et la déshumanisation :« Souvent, ce n'est pas le sens de l'humanité des femmes qui manque. Son humanité est précisément le problème" (Manne, 2018, p. 33). Par conséquent, l'utilisation généralisée de l'identité féminine dans les artefacts d'IA peut être enracinée dans la reconnaissance implicite que les femmes sont perçues comme humaines, et plus que les hommes.
L'objectivation des femmes dans le monde réel ?
Cette recherche s'appuie sur ce qui rend les gens humains par rapport aux machines pour mieux comprendre les racines profondes du genre féminin répandu de l'IA. Parce que les sentiments sont à la substance même de notre humanité, et parce que les femmes sont perçues comme plus susceptibles d'éprouver des sentiments, nous soutenons que le genre féminin des objets d'IA les rend plus humains et plus susceptibles de prendre en compte nos besoins uniques. Cependant, ce processus de transformation des femmes en objets pourrait conduire à l'objectivation des femmes en véhiculant l'idée que les femmes sont des objets et des outils simples conçus pour répondre aux besoins de leurs propriétaires. Cela pourrait potentiellement alimenter davantage l'objectivation et la déshumanisation des femmes dans le monde non numérique.
Cette recherche met ainsi en évidence le dilemme éthique auquel sont confrontés les concepteurs et les décideurs de l'IA :les femmes seraient transformées en objets dans l'IA, mais injecter l'humanité des femmes dans les objets d'IA rend ces objets plus humains et acceptables.
Ces résultats ne sont pas particulièrement encourageants pour l'avenir de la parité hommes-femmes en IA, ni pour mettre fin à l'objectivation des femmes dans l'IA. Le développement de voix neutres en termes de genre pourrait être un moyen de s'éloigner du genre féminin de l'IA et d'arrêter la perpétuation de ce sexisme bienveillant. Une autre solution, similaire à l'expérimentation récente de Google, serait d'imposer une voix de genre par défaut, attribuer au hasard et avec une probabilité égale un bot intelligent masculin ou féminin aux utilisateurs.
Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original. 
