Lauren Rhue étudie le monde trépidant de l'intelligence artificielle et de la technologie d'apprentissage automatique. Mais elle veut que tout le monde ralentisse.

Rhue, professeur adjoint de systèmes d'information à la Robert H. Smith School of Business de l'Université du Maryland, a récemment audité la technologie de reconnaissance des émotions au sein de trois services de reconnaissance faciale :Amazon Rekognition, Face++ et Microsoft. Ses recherches ont révélé ce que Rhue a appelé des disparités raciales "vraiment flagrantes".

Amazon Rekognition est proposé à d'autres entreprises. Face++ est utilisé dans la vérification d'identité. Microsoft prévoit de cesser d'utiliser sa technologie de reconnaissance faciale cette année, y compris les outils de reconnaissance des émotions.

Rhue a recueilli des photos de joueurs noirs et blancs de la NBA de la saison 2016, en contrôlant à quel point ils souriaient. Elle a ensuite passé ces photos dans le logiciel de reconnaissance faciale.

En général, les modèles attribuaient plus d'émotions négatives aux joueurs noirs, a constaté Rhue. De plus, si les joueurs avaient des expressions faciales ambiguës, les joueurs noirs étaient plus susceptibles d'être supposés avoir une expression faciale négative, tandis que les joueurs blancs étaient plus susceptibles de se voir "accorder le bénéfice du doute".

"Je pense que nous devrions tous prendre du recul et penser, avons-nous besoin d'analyser les visages de cette façon?" dit Rhue.

Rhue, 39 ans, n'est pas le premier à explorer la disparité raciale dans les systèmes d'IA. Par exemple, Joy Buolamwini, étudiante diplômée du MIT, a donné des conférences TED sur son expérience avec un logiciel d'analyse faciale qui n'a pas pu détecter son visage car l'algorithme n'avait pas été codé pour identifier une gamme suffisamment large de tons de peau et de structures faciales.

"Avec l'enthousiasme actuel pour l'IA, il semble nécessaire de créer un modèle pour tout ce pour quoi vous pouvez créer un modèle", a déclaré Rhue. "Mais j'aimerais vraiment voir un peu plus de pause et de réflexion sur, 'Avons-nous besoin de cela ? Qu'est-ce que cela apporte à la table ?'"

L'utilisation de la technologie de reconnaissance faciale se répand. Le port de Baltimore utilise la technologie de reconnaissance faciale pour vérifier l'identité des passagers débarquant. HireVue, basée dans l'Utah, mène des entretiens vidéo pour les employés potentiels et note les visages et les émotions des candidats dans le cadre de son analyse de candidature. L'IA a été déployée pour analyser les émotions et le langage corporel afin de détecter les menaces potentielles dans les foules.

Certains États limitent l'utilisation de l'IA. La Californie, par exemple, envisage de restreindre l'utilisation de l'IA pour sélectionner les candidats à un emploi afin d'éviter un "impact discriminatoire". Dans l'Illinois, les employeurs doivent divulguer lorsqu'ils utilisent des outils d'IA lors d'entretiens vidéo. Le Maryland a une loi similaire.

Et l'été dernier, le conseil municipal de Baltimore a créé un moratoire sur l'utilisation de la technologie de reconnaissance faciale, exemptant le service de police, jusqu'en décembre.

Et alors que l'IA s'infiltre dans tous les domaines de la société, Rhue souhaite simplement que les gens ― et les entreprises ― fassent une pause et réfléchissent aux effets à long terme.

"Ces types de systèmes sont de plus en plus intégrés dans notre, dans notre technologie. Nous n'en sommes pas toujours conscients. Nous ne sommes pas toujours conscients de la façon dont ils sont utilisés", a déclaré Rhue. "Et je pense qu'il est important de comprendre le potentiel de biais. Et puis le décalage de ma recherche se penche sur l'intervention humaine pour voir si cela l'améliore, si les gens sont capables de compenser ce biais."

Rhue a noté que dans chaque situation, il doit y avoir une combinaison d'outils d'IA et d'intervention humaine utilisée pour atténuer les biais. Elle veut anticiper les "conséquences négatives et imprévues".

Et elle pense que le reste de son domaine commence également à donner la priorité à ce type de travail. Elle a déclaré que la mort de George Floyd aux mains de la police et les appels ultérieurs à la justice raciale en 2020 ont suscité un intérêt pour la compréhension des luttes des communautés marginalisées et la manière dont la technologie peut promouvoir l'inclusion.

Jui Ramaprasad, professeur agrégé de systèmes d'information à l'école de commerce du Maryland, travaille avec Rhue et la connaît depuis qu'elle était doctorante à l'Université de New York. Elle a déclaré que le travail effectué par Rhue sur les préjugés dans l'apprentissage automatique est l'un des "travaux les plus percutants" dans leur domaine.

"Je pense qu'elle fait un travail qui lui tient à cœur parce que cela l'affecte, cela affecte les gens de la communauté", a déclaré Ramaprasad. "Je pense qu'il est vraiment difficile d'être la personne qui fait le travail lorsque vous êtes également une personne confrontée à ces préjugés ou à cette discrimination dans l'environnement dans lequel nous vivons et travaillons."

Malgré les disparités qu'elle a découvertes, Rhue pense que la technologie peut être utilisée pour le bien. Par exemple, Rhue a fait des recherches sur le financement participatif sur les plateformes numériques en mettant l'accent sur Kickstarter, qui organise des campagnes en fonction des intérêts du personnel. Dans un effort pour mettre en évidence les projets proposés par les créateurs noirs, elle a constaté que l'utilisation de modèles prédictifs plutôt que de s'appuyer sur une analyse humaine subjective augmentait les taux de recommandation pour les projets noirs sans réduire le taux de réussite.

"Je pense que la technologie a tellement de potentiel pour avoir un impact positif sur l'inclusion, et en particulier sur l'inclusion financière", a déclaré Rhue.

En dehors de ses recherches, Rhue enseigne la visualisation de données aux étudiants de premier cycle et de maîtrise. Elle a précédemment enseigné à l'Université Wake Forest.

Rhue a déclaré qu'elle pouvait voir l'impact qu'elle avait en classe. Des étudiants lui ont dit, y compris certains étudiants de troisième cycle, qu'elle était le seul professeur noir qu'ils aient jamais eu. Et elle a eu d'autres personnes qui lui ont dit qu'elles voulaient poursuivre leur propre doctorat. parce qu'elle a rendu cela possible.

Will Hawks est professeur adjoint de gestion à la Nova Southeastern University Florida. Avant cela, il était un élève de Rhue à Wake Forest.

Bien que Rhue n'ait pas été son premier professeur noir - Hawks a déjà fréquenté la Florida A&M University, une institution historiquement noire - la voir sur le campus a toujours fait une impression.

"Voir quelqu'un qui vous ressemble accomplir des choses que vous ne pensez pas pouvoir accomplir, c'est l'impossible devenu réalité", a déclaré Hawks. "Être un professeur noir et masculin dans cette même industrie maintenant... notre présence signifie tellement plus pour eux. Et je le sais parce que j'ai été à leur place."

Hawks a qualifié Rhue de "changeur de jeu" pour lui. Il est resté en contact avec elle depuis l'obtention de son diplôme; il l'a contactée lorsqu'il postulait pour des emplois universitaires et l'a même récemment invitée à se joindre à lui pour rechercher des crimes haineux connus sous le nom d'"attentats à la bombe Zoom" et comment ces incidents affectent les organisations et les personnes. Hawks pense que Rhue a changé le cours de sa vie.

"Vous ne parleriez pas au Dr Will Hawks en ce moment si je n'avais pas croisé le chemin du Dr Rhue", a déclaré Hawks. + Explorer plus loin

La technologie de lecture des émotions échoue au test des préjugés raciaux

Soleil de Baltimore 2022.
Distribué par Tribune Content Agency, LLC.