Les applications de rencontres mobiles qui permettent aux utilisateurs de filtrer leurs recherches par race - ou de s'appuyer sur des algorithmes qui associent des personnes de la même race - renforcent les divisions et les préjugés raciaux, selon un nouvel article des chercheurs de Cornell.

Alors que de plus en plus de relations commencent en ligne, les applications de rencontres et de rencontres devraient décourager la discrimination en proposant aux utilisateurs des catégories autres que la race et l'origine ethnique pour se décrire, publier des messages communautaires inclusifs, et écrire des algorithmes qui ne font pas de discrimination, disaient les auteurs.

"La sérendipité est perdue lorsque les gens sont capables de filtrer les autres, " a déclaré Jevan Hutson '16, M.P.S. '17, auteur principal de "Debiasing Desire:Addressing Bias and Discrimination on Intimate Platforms, " co-écrit avec Jessie G. Taft '12, M.P.S. '18, un coordinateur de recherche chez Cornell Tech, et Solon Barocas et Karen Levy, professeurs assistants en sciences de l'information. « Les plateformes de rencontres ont la possibilité de perturber des structures sociales particulières, mais vous perdez ces avantages lorsque vous disposez de fonctionnalités de conception qui vous permettent de supprimer des personnes différentes de vous. »

Le papier, que les auteurs présenteront à la conférence ACM sur le travail coopératif assisté par ordinateur et l'informatique sociale le 6 novembre, cite les recherches existantes sur la discrimination dans les applications de rencontres pour montrer comment des décisions de conception simples pourraient réduire les préjugés contre les personnes de tous les groupes marginalisés, y compris les personnes handicapées ou transgenres. Bien que les préférences des partenaires soient extrêmement personnelles, les auteurs soutiennent que la culture façonne nos préférences, et les applications de rencontres influencent nos décisions.

"C'est vraiment une période sans précédent pour les rencontres et les rencontres en ligne. De plus en plus de personnes utilisent ces applications, et ce sont des infrastructures critiques qui ne reçoivent pas beaucoup d'attention en ce qui concerne les préjugés et la discrimination, " dit Hutson, maintenant étudiant à la faculté de droit de l'Université de Washington. "L'intimité est très privée, et à juste titre, mais nos vies privées ont des impacts sur des schémas socio-économiques plus larges qui sont systémiques."

Quinze pour cent des Américains déclarent utiliser des sites de rencontres, et certaines recherches estiment qu'un tiers des mariages - et 60 pour cent des relations homosexuelles - ont commencé en ligne. Tinder et Grindr comptent des dizaines de millions d'utilisateurs, et Tinder affirme avoir facilité 20 milliards de connexions depuis son lancement.

La recherche montre que les inégalités raciales dans les rencontres en ligne sont répandues. Par exemple, Les hommes et les femmes noirs sont 10 fois plus susceptibles d'envoyer des messages aux Blancs que les Blancs ne le sont aux Noirs. Permettre aux utilisateurs de rechercher, trier et filtrer les partenaires potentiels par race permet non seulement aux gens d'agir facilement sur des préférences discriminatoires, cela les empêche de se connecter avec des partenaires qu'ils n'ont peut-être pas réalisé qu'ils aimeraient.

Les applications peuvent également créer des biais. L'article cite des recherches montrant que les hommes qui utilisaient les plateformes considéraient le multiculturalisme de manière moins favorable, et le racisme sexuel comme plus acceptable.

Les utilisateurs qui reçoivent des messages de personnes d'autres races sont plus susceptibles de s'engager dans des échanges interracial qu'ils ne l'auraient fait autrement. Cela suggère que la conception de plates-formes permettant aux personnes de races différentes de se rencontrer plus facilement pourrait surmonter les préjugés, disaient les auteurs.

L'application de connexion gay basée au Japon 9Monsters regroupe les utilisateurs en neuf catégories de monstres fictifs, "ce qui peut aider les utilisateurs à regarder au-delà d'autres formes de différence, comme la race, l'ethnicité et la capacité, " dit le journal. D'autres applications utilisent des filtres basés sur des caractéristiques telles que les opinions politiques, histoire de la relation et éducation, plutôt que la course.

"Il y a certainement beaucoup de place pour trouver différentes façons pour les gens d'apprendre les uns des autres, ", a déclaré Hutson.

Les algorithmes peuvent introduire de la discrimination, intentionnellement ou non. En 2016, un journaliste de Buzzfeed a découvert que l'application de rencontres CoffeeMeetsBagel montrait aux utilisateurs uniquement des partenaires potentiels de leur même race, même lorsque les utilisateurs ont dit qu'ils n'avaient aucune préférence. Une expérience menée par OKCupid, dans lequel les utilisateurs ont été informés qu'ils étaient « hautement compatibles » avec des personnes que l'algorithme considérait en fait comme de mauvaises correspondances, ont constaté que les utilisateurs étaient plus susceptibles d'avoir des interactions réussies lorsqu'on leur disait qu'ils étaient compatibles, ce qui indique le fort pouvoir de suggestion.

En plus de repenser la façon dont les recherches sont menées, afficher des politiques ou des messages encourageant un environnement plus inclusif, ou interdisant explicitement certains langages, pourrait réduire les préjugés contre les utilisateurs de tout groupe marginalisé. Par exemple, Grindr a publié un article intitulé "14 Messages Trans People Want You Stop Sending on Dating Apps" sur son site média, et l'application de rencontres gay Hornet interdit aux utilisateurs de faire référence à des préférences raciales ou raciales dans leurs profils.

De tels changements pourraient avoir un impact important sur la société, les auteurs ont dit, alors que la popularité des applications de rencontres continue de croître et que de moins en moins de relations commencent dans des endroits comme les bars, quartiers et lieux de travail. Pourtant, alors que les espaces physiques sont soumis à des lois contre la discrimination, les applications en ligne ne le sont pas.

"Un bar aléatoire dans le Dakota du Nord avec 10 clients par jour est soumis à plus de directives sur les droits civiques qu'une plate-forme qui a 9 millions de visiteurs chaque jour, " Hutson a déclaré. "C'est un déséquilibre qui n'a pas de sens."

Toujours, les auteurs ont dit, les tribunaux et les législatures se sont montrés réticents à s'impliquer dans des relations intimes, et il est peu probable que ces applications soient réglementées de si tôt.

« Étant donné que ces plateformes sont de plus en plus conscientes de l'impact qu'elles ont sur la discrimination raciale, nous pensons qu'il n'est pas difficile pour eux d'adopter une approche plus axée sur la justice dans leur propre conception, " a déclaré Taft. "Nous essayons de faire prendre conscience qu'il s'agit de quelque chose de designers, et les gens en général, devrait y penser davantage."