Dans une nouvelle série d'expériences, les algorithmes d'intelligence artificielle (A.I.) ont pu influencer les préférences des gens pour des candidats politiques fictifs ou des partenaires romantiques potentiels, selon que les recommandations étaient explicites ou secrètes. Ujué Agudo et Helena Matute de l'Universidad de Deusto à Bilbao, Espagne, présenter ces résultats dans la revue en libre accès PLOS UN le 21 avril, 2021.

De Facebook aux résultats de recherche Google, beaucoup de gens rencontrent A.I. algorithmes tous les jours. Les entreprises privées mènent des recherches approfondies sur les données de leurs utilisateurs, générer des informations sur le comportement humain qui ne sont pas accessibles au public. La recherche universitaire en sciences sociales est à la traîne de la recherche privée, et les connaissances du public sur la façon dont l'IA. les algorithmes pourraient façonner les décisions des gens fait défaut.

Pour apporter une nouvelle lumière, Agudo et Matute ont mené une série d'expériences qui ont testé l'influence de l'IA. algorithmes dans des contextes différents. Ils ont recruté des participants pour interagir avec des algorithmes qui présentaient des photos de candidats politiques fictifs ou de candidats de rencontres en ligne, et a demandé aux participants d'indiquer pour qui ils voteraient ou d'envoyer un message. Les algorithmes ont favorisé certains candidats par rapport à d'autres, soit explicitement (par exemple, « 90 % de compatibilité ») ou secrètement, comme en montrant leurs photos plus souvent que les autres.

Globalement, les expériences ont montré que les algorithmes avaient une influence significative sur les décisions des participants quant à savoir pour qui voter ou envoyer un message. Pour les décisions politiques, la manipulation explicite a influencé de manière significative les décisions, tandis que la manipulation secrète n'était pas efficace. L'effet inverse a été observé pour les décisions de datation.

Les chercheurs pensent que ces résultats pourraient refléter la préférence des gens pour les conseils explicites de l'homme lorsqu'il s'agit de questions subjectives telles que les fréquentations, tandis que les gens pourraient préférer des conseils algorithmiques sur des décisions politiques rationnelles.

À la lumière de leurs conclusions, les auteurs expriment leur soutien aux initiatives visant à renforcer la fiabilité de l'IA, tels que les directives d'éthique de la Commission européenne pour une IA digne de confiance et le programme d'IA explicable (XAI) de la DARPA. Toujours, ils avertissent que davantage de recherches accessibles au public sont nécessaires pour comprendre la vulnérabilité humaine aux algorithmes.

Pendant ce temps, les chercheurs appellent à des efforts pour éduquer le public sur les risques d'une confiance aveugle dans les recommandations des algorithmes. Ils soulignent également le besoin de discussions autour de la propriété des données qui sous-tendent ces algorithmes.

Les auteurs ajoutent :« Si un algorithme fictif et simpliste comme le nôtre peut atteindre un tel niveau de persuasion sans établir de profils réellement personnalisés des participants (et en utilisant les mêmes photographies dans tous les cas), un algorithme plus sophistiqué comme ceux avec lesquels les gens interagissent dans leur vie quotidienne devrait certainement pouvoir exercer une influence beaucoup plus forte."