Tout le monde ne craint pas nos suzerains de la machine. En réalité, selon les chercheurs de Penn State, lorsqu'il s'agit d'informations privées et d'accès aux données financières, les gens ont tendance à faire plus confiance aux machines qu'aux gens, ce qui pourrait conduire à des comportements en ligne à la fois positifs et négatifs.

Dans une étude, les personnes qui faisaient confiance aux machines étaient beaucoup plus susceptibles de remettre leurs numéros de carte de crédit à un agent de voyages informatisé qu'à un agent de voyages humain. Un préjugé selon lequel les machines sont plus fiables et sécurisées que les gens - ou l'heuristique de la machine - peut être à l'origine de l'effet, dit S. Shyam Sundar, James P. Jimirro Professeur d'effets médiatiques, co-directeur du Media Effects Research Laboratory et affilié du Penn State's Institute for CyberScience (ICS).

"Cette tendance à faire davantage confiance à l'agent machine qu'à l'agent humain était beaucoup plus forte pour les personnes qui croyaient beaucoup à l'heuristique machine, " a déclaré Sundar. " Pour les personnes qui ne croyaient pas à l'heuristique de la machine, cela ne faisait aucune différence que l'agent de voyages soit une machine ou un humain."

Cela suggère que la présence d'un agent machine sur l'interface a servi d'indice pour déclencher l'heuristique ou la croyance enracinée que les machines sont supérieures, selon Sundar, qui a travaillé avec Jinyoung Kim, ancien doctorant en communication de masse et actuellement chercheur chez Amazon.

Cette foi dans les machines peut être déclenchée parce que les gens croient que les machines ne bavardent pas, ou avoir des conceptions illégales sur leurs informations privées. Cependant, Sundar a déclaré que même si les machines n'ont peut-être pas d'arrière-pensées pour leurs informations, les personnes qui développent et exploitent ces ordinateurs pourraient exploiter cette crédulité pour extraire des informations personnelles d'utilisateurs sans méfiance, par exemple, par des escroqueries par hameçonnage, qui sont des tentatives par des criminels d'obtenir des noms d'utilisateur, mots de passe, numéros de carte de crédit et autres informations privées en se faisant passer pour des sources dignes de confiance.

"Cette étude devrait servir d'avertissement pour que les gens soient conscients de la façon dont ils interagissent en ligne, " a déclaré Sundar. " Les gens doivent être conscients qu'ils peuvent avoir une croyance aveugle en la supériorité de la machine. Ils devraient se surveiller lorsqu'ils s'engagent en ligne avec des interfaces robotiques."

D'autre part, parce que certaines personnes font davantage confiance aux machines, les développeurs pourraient utiliser les résultats pour créer des sites Web et des applications plus conviviaux qui permettent aux gens de se sentir plus à l'aise pour effectuer des transactions en ligne, selon les chercheurs, qui rapportent leurs conclusions aujourd'hui (7 mai) lors de la conférence ACM CHI sur les facteurs humains dans les systèmes informatiques qui s'est tenue à Glasgow, ROYAUME-UNI.

« Une façon de tirer parti de cette heuristique, surtout pour la conception, est, si vous voulez susciter une plus grande confiance et que vous construisez un système automatisé, ou un algorithme, s'assurer que vous l'identifiez comme un système basé sur une machine - et qu'il n'y a aucun humain dans la boucle - pourrait en fait augmenter la confiance, " a déclaré Sundar. "Cela est particulièrement vrai dans les domaines où l'implication des humains peut conduire à des résultats imprévisibles et indésirables."

Sundar a ajouté que les personnes ayant un haut degré de confiance dans les machines n'ont besoin que d'indications de conception subtiles indiquant qu'elles interagissent avec une machine.

« Dans tout cela, une chose que je voudrais souligner est que les concepteurs doivent être éthiques, ", a déclaré Sundar. "Ils ne devraient pas essayer d'extraire des informations de consommateurs sans méfiance de manière contraire à l'éthique."

Les chercheurs ont recruté 160 participants d'Amazon Mechanical Turk, un site de crowdsourcing en ligne fréquemment utilisé dans les études, pour l'étude. Les participants ont été invités à utiliser un agent de chat humain ou machine pour trouver et acheter un billet d'avion en ligne. Après que l'agent a renvoyé les informations de vol, il a demandé aux participants de fournir leurs informations de carte de crédit. Les participants ont ensuite fait part de leur intention de fournir cette information. Les chercheurs ont mesuré la confiance des participants envers les machines en leur demandant de répondre à une série de cinq déclarations sur l'interaction avec les machines.

Les recherches futures examineront le rôle de l'heuristique machine dans la promotion de la confiance des gens envers l'intelligence artificielle ou les systèmes d'IA, en particulier les chatbots, haut-parleurs intelligents et robots.