Les systèmes d'intelligence artificielle et les algorithmes d'apprentissage automatique ont récemment été critiqués parce qu'ils peuvent détecter et renforcer les préjugés existants dans notre société, selon les données avec lesquelles ils sont programmés.

Mais un groupe interdisciplinaire d'universitaires de Stanford a renversé ce problème dans un nouveau Actes de l'Académie nationale des sciences article publié le 3 avril.

Les chercheurs ont utilisé des imbrications de mots – une technique algorithmique qui peut cartographier les relations et les associations entre les mots – pour mesurer les changements dans les stéréotypes de genre et ethniques au cours du siècle dernier aux États-Unis. Ils ont analysé de grandes bases de données de livres américains, journaux et autres textes et a examiné la corrélation entre ces changements linguistiques et les données démographiques réelles du recensement américain et les changements sociaux majeurs tels que le mouvement des femmes dans les années 1960 et l'augmentation de l'immigration asiatique, selon la recherche.

"Les inclusions de mots peuvent être utilisées comme un microscope pour étudier les changements historiques des stéréotypes dans notre société, " dit James Zou, professeur adjoint de science des données biomédicales. "Nos recherches antérieures ont montré que les inclusions capturent efficacement les stéréotypes existants et que ces préjugés peuvent être systématiquement supprimés. Mais nous pensons que, au lieu de supprimer ces stéréotypes, nous pouvons également utiliser les plongements comme lentille historique pour des analyses quantitatives, analyses linguistiques et sociologiques des biais."

Zou a co-écrit l'article avec le professeur d'histoire Londa Schiebinger, le professeur de linguistique et d'informatique Dan Jurafsky et l'étudiant diplômé en génie électrique Nikhil Garg, qui était l'auteur principal.

« Ce type de recherche nous ouvre toutes sortes de portes, " Schiebinger a déclaré. "Cela fournit un nouveau niveau de preuve qui permet aux chercheurs en sciences humaines de répondre aux questions sur l'évolution des stéréotypes et des préjugés à une échelle qui n'a jamais été faite auparavant."

La géométrie des mots

Un plongement de mots est un algorithme qui est utilisé, ou formé, sur un recueil de texte. L'algorithme affecte alors un vecteur géométrique à chaque mot, représentant chaque mot comme un point dans l'espace. La technique utilise l'emplacement dans cet espace pour capturer les associations entre les mots dans le texte source.

« Les inclusions sont un outil linguistique puissant pour mesurer les aspects subtils du sens des mots, comme le biais, " a déclaré Jurafsky.

Prenez le mot "honorable". À l'aide de l'outil d'intégration, des recherches antérieures ont révélé que l'adjectif a une relation plus étroite avec le mot « homme » qu'avec le mot « femme ».

Dans ses nouvelles recherches, l'équipe de Stanford a utilisé des intégrations pour identifier des professions et des adjectifs spécifiques qui étaient biaisés en faveur des femmes et de groupes ethniques particuliers par décennie de 1900 à nos jours. Les chercheurs ont formé ces intégrations sur des bases de données de journaux et ont également utilisé des intégrations précédemment formées par Will Hamilton, étudiant diplômé en informatique de Stanford, sur d'autres ensembles de données textuels volumineux, comme le corpus Google Books de livres américains, qui contient plus de 130 milliards de mots publiés au cours des 20e et 21e siècles.

Les chercheurs ont comparé les biais trouvés par ces intégrations aux changements démographiques dans les données du recensement américain entre 1900 et aujourd'hui.

Changements dans les stéréotypes

Les résultats de la recherche ont montré des changements quantifiables dans les représentations de genre et les préjugés envers les Asiatiques et d'autres groupes ethniques au cours du 20e siècle.

L'une des principales conclusions à émerger était de savoir comment les préjugés envers les femmes se sont améliorés – à certains égards – au fil du temps.

Par exemple, des adjectifs tels que « intelligent, " " logique " et " réfléchi " étaient davantage associés aux hommes dans la première moitié du 20e siècle. Mais depuis les années 1960, les mêmes mots sont de plus en plus associés aux femmes à chaque décennie suivante, en corrélation avec le mouvement des femmes dans les années 1960, même s'il reste encore un écart.

La recherche a également montré un changement radical dans les stéréotypes envers les Asiatiques et les Américains d'origine asiatique.

Par exemple, dans les années 1910, des mots comme "barbare, " " monstrueux " et " cruel " étaient les adjectifs les plus associés aux noms de famille asiatiques. Dans les années 1990, ces adjectifs ont été remplacés par des mots comme « inhibé, « « passif » et « sensible ». les chercheurs ont dit.

"La brutalité du changement des stéréotypes m'a marqué, " dit Garg. " Quand tu étudies l'histoire, vous en apprenez davantage sur les campagnes de propagande et ces vues dépassées des groupes étrangers. Mais combien la littérature produite à l'époque reflétait ces stéréotypes était difficile à apprécier."

Globalement, les chercheurs ont démontré que les changements dans les inclusions de mots suivaient de près les changements démographiques mesurés par le recensement américain.

Collaboration fructueuse

La nouvelle recherche met en lumière la valeur du travail d'équipe interdisciplinaire entre les sciences humaines et les sciences, les chercheurs ont dit.

Schiebinger a dit qu'elle avait tendu la main à Zou, qui a rejoint Stanford en 2016, après avoir lu ses précédents travaux sur les algorithmes d'apprentissage automatique anti-biais.

"Cela a conduit à une collaboration très intéressante et fructueuse, " Schiebinger a dit, ajoutant que les membres du groupe travaillent ensemble sur d'autres recherches.

"Cela souligne l'importance de la collaboration entre humanistes et informaticiens. Ces nouvelles méthodes d'apprentissage automatique dans la recherche en sciences humaines ont un pouvoir qui vient d'être compris, " elle a dit.