Internet a révolutionné nos vies, que ce soit en termes de travail, trouver des informations ou des divertissements, se connecter avec les autres, ou faire du shopping. Le monde en ligne a rendu beaucoup de choses plus faciles et a ouvert des opportunités auparavant inimaginables. À la fois, elle pose à la fois aux individus et aux sociétés des défis majeurs :les technologies sous-jacentes ne servent pas nécessairement au mieux les intérêts des utilisateurs.

« Nous sommes intéressés par des questions telles que : Comment pouvons-nous créer des environnements en ligne qui respectent l'autonomie humaine et promeuvent la vérité ? Et que peuvent faire les gens eux-mêmes pour éviter d'être induits en erreur et manipulés ? » dit Anastasia Kozyreva, auteur principal et chercheur au Centre pour la rationalité adaptative de l'Institut Max Planck pour le développement humain. L'équipe de recherche a commencé par examiner les différences entre les mondes en ligne et hors ligne, et identifié quatre défis majeurs.

1. Le comportement des utilisateurs est influencé par les architectures de choix manipulatrices. Ces « modèles sombres » orientent les utilisateurs vers des comportements inattendus ; ils incluent des publicités qui se fondent dans le contenu ou la navigation d'une page pour générer plus de clics, ou des paramètres de confidentialité déroutants qui incitent les gens à partager plus d'informations qu'ils ne le souhaitent vraiment.
2. Les informations présentées par les architectures d'informations basées sur l'IA ne sont pas neutres; il est personnalisé sur la base des données collectées auprès des utilisateurs. Cela signifie que deux personnes qui entrent le même terme dans un moteur de recherche obtiendront probablement des résultats différents. Cela peut être utile si, par exemple, nous voulons rechercher un restaurant et le moteur de recherche affiche les hits de notre quartier en haut de la liste, plutôt qu'un restaurant du même nom à l'autre bout du monde. Mais si l'on nous montre des informations ou du contenu politique uniquement sur la base de nos préférences, nous risquons de nous retrouver dans une bulle filtrante où nous ne sommes plus exposés à d'autres opinions.
3. L'équipe de recherche considère les informations fausses et trompeuses comme un autre défi pour les internautes. Les vidéos et les publications propageant des théories du complot et des rumeurs non vérifiées peuvent se propager rapidement via les réseaux sociaux, causant un réel préjudice. Par exemple, les gens peuvent décider de ne pas se faire vacciner en raison de la désinformation sur les vaccins, se mettre en danger et mettre les autres en danger.
4. Les environnements en ligne gênants cherchent constamment à attirer l'attention des utilisateurs, que ce soit au moyen de notifications push, affichages clignotants, pop-up annonces, ou un contenu constamment mis à jour. L'objectif est de capter et retenir l'attention des utilisateurs le plus longtemps possible :c'est la base même des modèles économiques des plateformes Internet. Nous nous retrouvons à passer beaucoup plus de temps sur nos écrans que prévu, sans réel avantage et au détriment de notre attention pour d'autres choses.

Dans une perspective de science du comportement, les chercheurs proposent des interventions spécifiques pour relever ces quatre défis. Ils suggèrent que des « outils de stimulation » peuvent être utilisés pour former de nouvelles compétences et permettre une meilleure, des décisions plus autonomes dans le monde en ligne.

L'auto-nudge est l'un des outils cognitifs que les gens peuvent utiliser pour créer des environnements de choix et d'information « plus sains » pour eux-mêmes. L'auto-nudging permet aux utilisateurs de configurer leur environnement numérique de la manière qui leur convient le mieux. Cela peut impliquer de désactiver les notifications des applications ou de réorganiser l'écran d'accueil de son smartphone afin que seules les applications utiles soient affichées :le calendrier, caméra, et cartes, par exemple, ainsi que des applications de méditation et de météo. Tout ce qui est trop distrayant, tels que les réseaux sociaux et les jeux, est mieux rangé dans des dossiers. Les chercheurs recommandent également aux utilisateurs de fixer consciemment des limites de temps à leur utilisation des médias sociaux.

« Le monde numérique est plein de pièges, " dit Ralph Hertwig, Directeur du Center for Adaptive Rationality à l'Institut Max Planck pour le développement humain. "Mais nous pouvons prendre des mesures pour éviter de tomber dedans. De la même manière que nous pourrions cacher notre cachette de chocolat au fond du placard et poser un bol de pommes sur la table, nous pouvons désactiver les notifications des applications qui exigent en permanence notre attention. Hors de vue, c'est hors de l'esprit, que ce soit dans la vraie vie ou dans le monde numérique."

Et tout comme nous regardons à droite et à gauche avant de traverser une rue, nous devrions prendre l'habitude de poser certaines questions pour évaluer le contenu que nous rencontrons en ligne. Des questions telles que :Quelle est l'origine de l'information ? Quelles sources sont citées ? Puis-je trouver un contenu similaire sur des sites Web réputés ? Cette approche peut renforcer la compétence des utilisateurs dans l'évaluation de la fiabilité des informations en ligne. Mais les plates-formes Internet pourraient également aider les utilisateurs à évaluer le contenu, par exemple, en affichant des arbres de décision qui rappellent aux utilisateurs de vérifier la source et les faits avant de partager du contenu.

Plus généralement, cependant, les décideurs politiques doivent également envisager de mettre en place des mesures réglementaires plus strictes pour garantir que les internautes conservent le contrôle de l'environnement numérique et de leurs données personnelles, par exemple, via les paramètres de confidentialité par défaut. Enfin et surtout, l'utilisation intelligente et autodéterminée des technologies numériques doit être enseignée à la fois à l'école et dans l'éducation des adultes. Le plus tôt, le meilleur.

Les chercheurs soulignent qu'aucune des interventions qu'ils proposent ne peut à elle seule contrer la manipulation en ligne ou empêcher la propagation de la désinformation. "Il faudra une combinaison d'outils cognitifs intelligents, éducation précoce aux médias, et un cadre réglementaire qui limite le pouvoir des intérêts commerciaux de détourner l'attention des gens pour faire du monde en ligne un endroit plus démocratique et véridique, " dit Stephan Lewandowsky, professeur de psychologie cognitive à l'Université de Bristol.