Avec des réponses par e-mail à correction automatique et générées automatiquement, les algorithmes offrent une assistance considérable pour aider les gens à s'exprimer.

Mais une nouvelle étude de l'Université de Géorgie montre que les personnes qui s'appuient sur des algorithmes informatiques pour effectuer des tâches créatives liées au langage n'améliorent pas leurs performances et sont plus susceptibles de faire confiance à des conseils de mauvaise qualité.

Aaron Schecter, professeur adjoint en systèmes d'information de gestion au Terry College of Business, a publié ce mois-ci son étude "Les préférences humaines envers les conseils algorithmiques dans une tâche d'association de mots" dans Rapports scientifiques . Ses co-auteurs sont Nina Lauharatanahirun, professeure adjointe en santé biocomportementale à la Pennsylvania State University, et récemment titulaire d'un doctorat du Terry College. Eric Bogert, diplômé et actuel professeur adjoint de la Northeastern University.

L'article est le deuxième de l'enquête de l'équipe sur la confiance individuelle dans les conseils générés par les algorithmes. Dans un article d'avril 2021, l'équipe a découvert que les gens dépendaient davantage des conseils algorithmiques pour compter les tâches que des conseils prétendument donnés par d'autres participants.

Cette étude visait à tester si les gens s'en remettaient aux conseils d'un ordinateur lorsqu'ils s'attaquaient à des tâches plus créatives et dépendantes de la langue. L'équipe a découvert que les participants étaient 92,3 % plus susceptibles d'utiliser des conseils attribués à un algorithme que de suivre des conseils attribués à des personnes.

"Cette tâche ne nécessitait pas le même type de réflexion (que la tâche de comptage dans l'étude précédente) mais en fait, nous avons vu les mêmes biais", a déclaré Schecter. "Ils allaient toujours utiliser la réponse de l'algorithme et se sentir bien, même si cela ne les aidait pas à faire mieux."

Utiliser un algorithme lors de l'association de mots

Pour voir si les gens se fieraient davantage aux conseils générés par ordinateur pour les tâches liées au langage, Schecter et ses co-auteurs ont donné à 154 participants en ligne des parties du test Remote Associates, un test d'association de mots utilisé pendant six décennies pour évaluer la créativité d'un participant. /P>

"Ce n'est pas de la créativité pure, mais l'association de mots est un type de tâche fondamentalement différent de la projection d'un stock ou du comptage d'objets sur une photo, car cela implique la linguistique et la capacité d'associer différentes idées", a-t-il déclaré. "Nous pensons que cela est plus subjectif, même s'il existe une bonne réponse aux questions."

Au cours du test, les participants ont été invités à trouver un mot en liant trois exemples de mots ensemble. Si, par exemple, les mots étaient base, room et bowling, la réponse serait ball.

Les participants choisissaient un mot pour répondre à la question et se voyaient proposer un indice attribué à un algorithme ou un indice attribué à une personne et autorisés à modifier leurs réponses. La préférence pour les conseils dérivés d'algorithmes était forte malgré la difficulté de la question, la façon dont les conseils étaient formulés ou la qualité des conseils.

Les participants qui suivaient les conseils de l'algorithme étaient également deux fois plus confiants dans leurs réponses que les personnes qui utilisaient les conseils de la personne. Malgré leur confiance dans leurs réponses, ils étaient 13 % moins susceptibles que ceux qui utilisaient des conseils humains pour choisir les bonnes réponses.

"Je ne vais pas dire que les conseils aggravaient les gens, mais le fait qu'ils n'aient pas fait mieux mais qu'ils se sentent quand même mieux dans leurs réponses illustre le problème", a-t-il déclaré. "Leur confiance a augmenté, donc ils sont susceptibles d'utiliser des conseils algorithmiques et de s'en sentir bien, mais ils n'auront pas nécessairement raison.

Devez-vous accepter la correction automatique lors de la rédaction d'un e-mail ?

"Si j'ai une fonction de saisie semi-automatique ou de correction automatique sur mon e-mail en laquelle je crois, je ne me demande peut-être pas si cela m'améliore. Je vais simplement l'utiliser parce que je me sens en confiance pour le faire."

Schechter et ses collègues appellent cette tendance à accepter des conseils générés par ordinateur sans tenir compte de sa qualité un biais d'automatisation. Comprendre comment et pourquoi les décideurs humains s'en remettent aux logiciels d'apprentissage automatique pour résoudre des problèmes est un élément important pour comprendre ce qui pourrait mal tourner dans les lieux de travail modernes et comment y remédier.

"Souvent, lorsque nous parlons de savoir si nous pouvons autoriser les algorithmes à prendre des décisions, avoir une personne dans la boucle est considéré comme la solution pour éviter les erreurs ou les mauvais résultats", a déclaré Schecter. "Mais cela ne peut pas être la solution si les gens sont plus susceptibles qu'improbables de s'en remettre à ce que l'algorithme conseille." + Explorer plus loin

Les gens peuvent faire plus confiance aux ordinateurs qu'aux humains