Le soir du 17 février 2018, La professeure Mary Beard a publié sur Twitter une photo d'elle en train de pleurer. L'éminent classique de l'Université de Cambridge, qui en a presque 200, 000 abonnés Twitter, était bouleversé après avoir reçu une tempête d'abus en ligne. C'était la réaction à un commentaire qu'elle avait fait sur Haïti. Elle a également tweeté:"Je parle avec le cœur (et bien sûr, je peux me tromper). Mais la merde que je reçois en réponse ne concerne tout simplement pas; vraiment ce n'est pas le cas."

Dans les jours qui suivirent, Beard a reçu le soutien de plusieurs personnalités. Greg Jenner, un collègue historien célèbre, a tweeté à propos de sa propre expérience d'un Twitterstorm:"Je me souviendrai toujours à quel point c'était traumatisant d'être soudainement détesté par des étrangers. Indépendamment de la moralité - j'ai peut-être eu tort ou raison à mon avis - j'ai été étonné (plus tard, quand j'ai récupéré) à quel point c'était psychologiquement déstabilisant pour moi."

Ceux qui ont tweeté leur soutien à Beard – qu'ils soient ou non d'accord avec son tweet initial qui avait déclenché les réponses abusives – ont eux-mêmes été ciblés. Et quand l'un des critiques de Beard, son collègue universitaire de Cambridge Priyamvada Gopal, une femme d'origine asiatique, a exposé sa réponse au tweet original de Beard dans un article en ligne, elle a reçu son propre torrent d'abus.

Il existe des preuves accablantes que les femmes et les membres de groupes ethniques minoritaires sont la cible d'abus sur Twitter de manière disproportionnée. Là où ces marqueurs d'identité se croisent, le harcèlement peut devenir particulièrement intense, comme l'a vécu la députée noire Diane Abbott, qui à lui seul a reçu près de la moitié de tous les tweets abusifs envoyés aux femmes parlementaires à l'approche des élections générales britanniques de 2017. Les femmes parlementaires noires et asiatiques ont reçu en moyenne 35 % plus de tweets abusifs que leurs collègues femmes blanches, même lorsqu'Abbott était exclu du total.

Le barrage constant d'abus, y compris les menaces de mort et les menaces de violence sexuelle, fait taire les gens, en les repoussant des plateformes en ligne et en réduisant encore la diversité des voix et des opinions en ligne. Et il ne montre aucun signe de ralentissement. Un sondage de l'année dernière a révélé que 40 pour cent des adultes américains avaient personnellement subi des abus en ligne, près de la moitié d'entre eux subissant des formes graves de harcèlement, y compris les menaces physiques et le harcèlement criminel. 70 pour cent des femmes ont décrit le harcèlement en ligne comme un « problème majeur ».

Les modèles économiques des plateformes de médias sociaux, comme YouTube et Facebook, promouvoir un contenu qui est plus susceptible d'obtenir une réponse des autres utilisateurs, car un engagement plus important signifie de meilleures opportunités de publicité. Mais cela a pour conséquence de favoriser des contenus clivants et fortement émotifs ou extrêmes, ce qui peut à son tour nourrir des « bulles » en ligne de groupes qui reflètent et renforcent les opinions des uns et des autres, aider à propulser la diffusion de contenus plus extrêmes et fournir un créneau pour les « fausses nouvelles ». Ces derniers mois, les chercheurs ont révélé de nombreuses façons que divers intérêts acquis, y compris des agents russes, ont cherché à manipuler l'opinion publique en infiltrant les bulles des médias sociaux.

Notre capacité humaine à communiquer des idées à travers des réseaux de personnes nous a permis de construire le monde moderne. Internet offre une promesse sans précédent de coopération et de communication entre toute l'humanité. Mais au lieu d'embrasser une extension massive de nos cercles sociaux en ligne, nous semblons revenir au tribalisme et au conflit, et la croyance dans le potentiel d'Internet pour rassembler l'humanité dans un glorieux réseau de collaboration commence maintenant à sembler naïve. Bien que nous menions généralement nos interactions réelles avec des étrangers avec politesse et respect, en ligne, nous pouvons être horribles. Comment pouvons-nous réapprendre les techniques collaboratives qui nous ont permis de trouver un terrain d'entente et de prospérer en tant qu'espèce ?

"N'y pense pas trop, il suffit d'appuyer sur le bouton !"

je clique sur un montant, m'appauvrissant en un instant, et passez rapidement à la question suivante, conscients que nous jouons tous contre la montre. Mes coéquipiers sont loin et inconnus de moi. Je n'ai aucune idée si nous sommes tous dans le même bateau ou si je suis joué pour un imbécile, mais je continue, sachant que les autres dépendent de moi.

Je joue dans un soi-disant jeu de biens publics au Human Cooperation Lab de l'Université de Yale. Les chercheurs l'utilisent ici comme un outil pour aider à comprendre comment et pourquoi nous coopérons, et si nous pouvons améliorer notre comportement prosocial.

Au cours des années, les scientifiques ont proposé diverses théories sur les raisons pour lesquelles les humains coopèrent si bien que nous formons des sociétés fortes. Les racines évolutives de notre gentillesse générale, la plupart des chercheurs croient maintenant, peut être trouvé dans l'avantage de survie individuel que les humains éprouvent lorsque nous coopérons en tant que groupe. Je suis venu à New Haven, Connecticut, dans un février enneigé, visiter un groupe de laboratoires où les chercheurs utilisent des expériences pour explorer davantage notre extraordinaire impulsion à être gentil avec les autres, même à nos propres frais.

Le jeu auquel je joue, sur la plateforme en ligne Mechanical Turk d'Amazon, est l'une des expériences en cours du laboratoire. Je suis dans une équipe de quatre personnes dans des endroits différents, et chacun de nous reçoit la même somme d'argent pour jouer. On nous demande de choisir combien d'argent nous contribuerons à une cagnotte de groupe, étant entendu que cette cagnotte sera alors doublée et partagée également entre nous.

Ce genre de dilemme social, comme toute coopération, repose sur un certain niveau de confiance que les autres membres de votre groupe seront gentils. Si tout le monde dans le groupe donne tout son argent, tout l'argent est doublé, redistribué de quatre manières, et tout le monde double son argent. Gagnant–gagnant !

"Mais si vous y réfléchissez du point de vue d'un individu, " dit le directeur du laboratoire David Rand, « pour chaque dollar que vous versez, il est doublé à deux dollars, puis divisé en quatre, ce qui signifie que chaque personne ne reçoit que 50 cents pour le dollar qu'elle a contribué. »

Même si tout le monde se porte mieux collectivement en contribuant à un projet de groupe que personne ne pourrait gérer seul – dans la vraie vie, cela pourrait être payant vers un bâtiment d'hôpital, ou creuser un fossé d'irrigation communautaire – il y a un coût au niveau individuel. Financièrement, vous gagnez plus d'argent en étant plus égoïste.

L'équipe de Rand a organisé ce jeu avec des milliers de joueurs. On demande à la moitié d'entre eux, comme j'étais, de décider rapidement de leur contribution – dans les 10 secondes – alors que l'autre moitié est invitée à prendre son temps et à bien réfléchir à sa décision. Il s'avère que lorsque les gens vont avec leur instinct, ils sont beaucoup plus généreux que lorsqu'ils passent du temps à délibérer.

"Il existe de nombreuses preuves que la coopération est une caractéristique centrale de l'évolution humaine, " dit Rand. Les individus en profitent, et ont plus de chances de survivre, en coopérant avec le groupe. Et être autorisé à rester dans le groupe et à en bénéficier dépend de notre réputation de comportement coopératif.

« Dans les petites sociétés où vivaient nos ancêtres, toutes nos interactions étaient avec des personnes que vous alliez revoir et interagir avec dans un avenir immédiat, ", dit Rand. Cela a empêché toute tentation d'agir de manière agressive ou de profiter et de contourner les contributions des autres. "C'est logique, d'une manière intéressée, être coopératif."

La coopération engendre plus de coopération dans un cycle mutuellement bénéfique. Plutôt que de déterminer à chaque fois s'il est dans notre intérêt à long terme d'être gentil, c'est plus efficace et moins d'effort d'avoir la règle de base :être gentil avec les autres. C'est pourquoi notre réponse irréfléchie à l'expérience est généreuse.

Tout au long de notre vie, nous apprenons de la société qui nous entoure comment être coopératif. Mais nos comportements appris peuvent aussi changer rapidement.

Ceux de l'expérience de Rand qui jouent le tour rapide sont pour la plupart généreux et reçoivent des dividendes généreux, renforçant leur attitude généreuse. Alors que ceux qui considèrent leurs décisions sont plus égoïstes, résultant en un maigre pot de groupe, renforcer l'idée qu'il ne vaut pas la peine de s'appuyer sur le groupe. Donc, dans une autre expérience, Rand a donné de l'argent aux personnes qui avaient joué une partie du jeu. On leur a ensuite demandé combien ils voulaient donner à un inconnu anonyme. Cette fois, il n'y avait aucune incitation à donner; ils agiraient en toute charité.

Il s'est avéré qu'il y avait de grandes différences. Les gens qui s'étaient habitués à coopérer dans la première étape donnaient deux fois plus d'argent dans la deuxième étape que ceux qui s'étaient habitués à être égoïstes. « Donc, nous affectons la vie interne et le comportement des gens, " Rand dit. "La façon dont ils se comportent même quand personne ne regarde et quand il n'y a aucune institution en place pour les punir ou les récompenser."

L'équipe de Rand a testé comment les gens de différents pays jouent au jeu, pour voir comment la force des institutions sociales - comme le gouvernement, famille, l'éducation et les systèmes juridiques – influence le comportement. Au Kenya, où la corruption du secteur public est élevée, les joueurs ont initialement donné moins généreusement à l'étranger que les joueurs des États-Unis, qui a moins de corruption. Cela suggère que les personnes qui peuvent s'appuyer sur des institutions sociales relativement justes se comportent de manière plus citoyenne; ceux dont les institutions sont moins fiables sont plus protectionnistes. Cependant, après avoir joué un seul tour de la version de promotion de la coopération du jeu des biens publics, la générosité des Kenyans égalait celle des Américains. Et cela a joué dans les deux sens :les Américains qui ont été entraînés à être égoïstes ont donné beaucoup moins.

Alors, y a-t-il quelque chose dans la culture des médias sociaux en ligne qui pousse certaines personnes à se comporter méchamment ? Contrairement aux anciennes sociétés de chasseurs-cueilleurs, qui reposent sur la coopération et le partage pour survivre et ont souvent des règles pour offrir de la nourriture à qui à travers leur réseau social, les médias sociaux ont des institutions faibles. Ils offrent la distanciation physique, anonymat relatif et faible risque réputationnel ou punitif de mauvais comportement :si vous êtes méchant, personne que vous connaissez ne va voir.

Je traîne quelques pâtés de maisons dans la neige pour trouver le laboratoire de psychologie de Molly Crockett, où les chercheurs étudient la prise de décision morale dans la société. Un domaine sur lequel ils se concentrent est la façon dont les émotions sociales sont transformées en ligne, en particulier l'indignation morale. Des études d'imagerie cérébrale montrent que lorsque les gens agissent selon leur indignation morale, le centre de récompense de leur cerveau est activé – ils s'en sentent bien. Cela renforce leur comportement, ils sont donc plus susceptibles d'intervenir à nouveau de la même manière. Donc, s'ils voient quelqu'un agir d'une manière qui viole une norme sociale, en permettant à leur chien d'encrasser une aire de jeux, par exemple, et ils confrontent publiquement l'auteur à ce sujet, ils se sentent bien après. Et bien que défier un contrevenant aux normes sociales de votre communauté comporte des risques – vous pouvez être attaqué – cela renforce également votre réputation.

Dans nos vies relativement paisibles, nous sommes rarement confrontés à des comportements scandaleux, nous voyons donc rarement l'indignation morale exprimée. Ouvrez Twitter ou Facebook et vous obtenez une image très différente. Des recherches récentes montrent que les messages contenant à la fois des mots moraux et émotionnels sont plus susceptibles de se propager sur les réseaux sociaux – chaque mot moral ou émotionnel dans un tweet augmente de 20 % la probabilité qu'il soit retweeté.

"Le contenu qui déclenche l'indignation et qui exprime l'indignation est beaucoup plus susceptible d'être partagé, " dit Crockett. Ce que nous avons créé en ligne est "un écosystème qui sélectionne le contenu le plus scandaleux, jumelé à une plate-forme où il est plus facile que jamais d'exprimer son indignation".

Contrairement au monde hors ligne, il n'y a aucun risque personnel à confronter et à exposer quelqu'un. Cela ne prend que quelques clics sur un bouton et vous n'avez pas besoin d'être physiquement à proximité, il y a donc beaucoup plus d'indignation exprimée en ligne. Et il se nourrit. "Si vous punissez quelqu'un pour avoir enfreint une norme, qui vous fait paraître plus digne de confiance pour les autres, afin que vous puissiez diffuser votre caractère moral en exprimant l'indignation et en punissant les violations des normes sociales, " dit Crockett. " Et les gens croient qu'ils répandent le bien en exprimant leur indignation - que cela vient d'un lieu de moralité et de droiture.

« Lorsque vous passez du mode hors ligne – où vous pouvez renforcer votre réputation pour quiconque se trouve actuellement – ​​à en ligne, où vous le diffusez sur l'ensemble de votre réseau social, alors cela amplifie considérablement les récompenses personnelles d'exprimer son indignation. "

Ceci est aggravé par les commentaires que les gens reçoivent sur les réseaux sociaux, sous forme de likes et de retweets, etc. "Notre hypothèse est que la conception de ces plateformes pourrait faire de l'expression de l'indignation une habitude, et une habitude est quelque chose qui est fait sans tenir compte de ses conséquences - il est insensible à ce qui se passe ensuite, c'est juste une réponse aveugle à un stimulus, " explique Crockett.

"Je pense qu'il vaut la peine d'avoir une conversation en tant que société pour savoir si nous voulons que notre moralité soit sous le contrôle d'algorithmes dont le but est de faire de l'argent pour les entreprises technologiques géantes, " ajoute-t-elle. " Je pense que nous aimerions tous croire et ressentir que nos émotions morales, les pensées et les comportements sont intentionnels et non des réactions instinctives à tout ce qui est placé devant nous et qui, selon notre concepteur de smartphones, leur apportera le plus de profit. "

A la hausse, les coûts inférieurs de l'expression de l'indignation en ligne ont permis aux marginalisés, des groupes moins habilités à promouvoir des causes qui ont toujours été plus difficiles à faire avancer. L'indignation morale sur les réseaux sociaux a joué un rôle important en attirant l'attention sur l'abus sexuel des femmes par des hommes de haut rang. Et en février 2018, Des adolescents de Floride qui se sont plaints sur les réseaux sociaux d'une autre fusillade dans un lycée dans leur état ont contribué à changer l'opinion publique, ainsi que de faire honte à un certain nombre de grandes entreprises en abandonnant leurs programmes de réduction pour les membres de la National Rifle Association.

"Je pense qu'il doit y avoir des moyens de maintenir les avantages du monde en ligne, " dit Crockett, « tout en réfléchissant plus attentivement à la refonte de ces interactions pour éliminer certains des éléments les plus coûteux. »

Quelqu'un qui a beaucoup réfléchi à la conception de nos interactions dans les réseaux sociaux est Nicholas Christakis, directeur du Human Nature Lab de Yale, situé à quelques pâtés de maisons enneigés de plus. Son équipe étudie comment notre position dans un réseau social influence nos comportements, et même comment certaines personnes influentes peuvent considérablement modifier la culture de tout un réseau.

L'équipe explore des moyens d'identifier ces personnes et de les inscrire dans des programmes de santé publique qui pourraient profiter à la communauté. Au Honduras, ils utilisent cette approche pour influencer l'inscription à la vaccination et les soins maternels, par exemple. En ligne, ces personnes ont le potentiel de transformer une culture d'intimidation en une culture de soutien.

Les entreprises utilisent déjà un système grossier d'identification des soi-disant influenceurs Instagram pour faire connaître leurs marques à leur place. Mais Christakis ne regarde pas seulement à quel point un individu est populaire, mais aussi leur position dans le réseau et la forme de ce réseau. Dans certains réseaux, comme un petit village isolé, tout le monde est étroitement lié et vous connaissez probablement tout le monde lors d'une fête ; dans une ville, par contre, les gens peuvent vivre plus étroitement dans leur ensemble, mais vous êtes moins susceptible de connaître tout le monde à une fête là-bas. Le degré d'interconnexion d'un réseau affecte la façon dont les comportements et les informations se propagent autour de lui, il explique.

"Si vous prenez des atomes de carbone et que vous les assemblez dans un sens, ils deviennent du graphite, qui est doux et sombre. Prenez les mêmes atomes de carbone et assemblez-les différemment, et il devient diamant, ce qui est dur et clair. Ces propriétés de dureté et de clarté ne sont pas des propriétés des atomes de carbone - ce sont des propriétés de la collection d'atomes de carbone et dépendent de la façon dont vous connectez les atomes de carbone les uns aux autres, " dit-il. " Et c'est la même chose avec les groupes humains. "

Christakis a conçu un logiciel pour explorer cela en créant des sociétés artificielles temporaires en ligne. « Nous laissons les gens entrer, puis nous les laissons interagir les uns avec les autres et voyons comment ils jouent à un jeu de biens publics, par exemple, pour évaluer à quel point ils sont gentils avec les autres.

Puis il manipule le réseau. "En concevant leurs interactions dans un sens, Je peux les rendre vraiment adorables l'un envers l'autre, bien travailler ensemble, et ils sont en bonne santé et heureux et ils coopèrent. Ou vous prenez les mêmes personnes et les connectez d'une manière différente et ils sont méchants les uns avec les autres et ils ne coopèrent pas et ils ne partagent pas d'informations et ils ne sont pas gentils les uns envers les autres."

Dans une expérience, il a assigné au hasard des étrangers pour jouer le jeu des biens publics les uns avec les autres. Au début, il dit, environ les deux tiers des gens étaient coopératifs. "Mais certaines des personnes avec lesquelles ils interagissent en profiteront et, parce que leur seule option est soit d'être gentil et coopératif, soit d'être un transfuge, ils choisissent de faire défection parce qu'ils sont coincés avec ces gens qui en profitent. Et à la fin de l'expérience, tout le monde est un imbécile pour tout le monde."

Christakis a renversé la situation simplement en donnant à chaque personne un peu de contrôle sur qui elle était connectée après chaque tour. "Ils ont dû prendre deux décisions :suis-je gentil avec mes voisins ou non; et est-ce que je reste avec ce voisin ou pas." La seule chose que chaque joueur savait de ses voisins était de savoir si chacun avait coopéré ou fait défection au tour précédent. "Ce que nous avons pu montrer, c'est que les gens coupent les liens avec les transfuges et nouent des liens avec les coopérateurs, et le réseau s'est recâblé et s'est converti en une structure semblable à un diamant au lieu d'une structure semblable à du graphite." En d'autres termes, une structure prosociale coopérative au lieu d'une structure non coopérative.

Dans une tentative de générer des communautés en ligne plus coopératives, L'équipe de Christakis a commencé à ajouter des robots à leurs sociétés temporaires. Il m'emmène sur un ordinateur portable et me configure sur un jeu différent. Dans ce jeu, les joueurs anonymes doivent travailler en équipe pour résoudre un dilemme que les carreleurs connaissent bien :chacun de nous doit choisir parmi l'une des trois couleurs, mais les couleurs des joueurs directement connectés les uns aux autres doivent être différentes. Si nous résolvons le puzzle dans un délai limité, nous recevons tous une part du prix en argent; si nous échouons, personne n'obtient rien. Je joue avec au moins 30 autres personnes. Aucun de nous ne peut voir tout le réseau de connexions, uniquement les personnes avec lesquelles nous sommes directement connectés - néanmoins, nous devons coopérer pour gagner.

Je suis connecté à deux voisins, dont les couleurs sont le vert et le bleu, donc je choisis le rouge. Mon voisin de gauche passe alors au rouge donc je passe rapidement au bleu. Le jeu continue et je deviens de plus en plus tendu, maudissant mes temps de réaction lents. Je dois souvent changer de couleur, répondre aux changements invisibles ailleurs dans le réseau, qui envoient une cascade de changements le long des connexions. Le temps est écoulé avant de résoudre le puzzle, provoquant des réponses furieuses dans la zone de commentaires du jeu de la part de joueurs distants condamnant la stupidité de tout le monde. Personnellement, Je suis soulagé que ce soit fini et qu'il n'y ait plus personne qui dépende de mes compétences de jeu maladroit pour gagner de l'argent.

Christakis me dit que certains des réseaux sont si complexes que le puzzle est impossible à résoudre dans le temps imparti. Mon soulagement est de courte durée, cependant :celui que j'ai joué était résoluble. Il rembobine le jeu, me révélant pour la première fois tout le réseau. Je vois maintenant que j'étais sur une branche inférieure du hub principal du réseau. Certains des joueurs étaient connectés à une seule autre personne, mais la plupart étaient connectés à trois ou plus. Des milliers de personnes du monde entier jouent à ces jeux sur Amazon Mechanical Turk, tirés par les petits frais qu'ils gagnent par tour. Mais pendant que je regarde le jeu que je viens de jouer se dérouler, Christakis révèle que trois de ces joueurs sont en fait des bots plantés. "Nous les appelons 'IA stupide', " il dit.

Son équipe n'est pas intéressée à inventer une IA super intelligente pour remplacer la cognition humaine. Au lieu, le plan est d'infiltrer une population d'humains intelligents avec des robots stupides pour aider les humains à s'aider eux-mêmes.

"Nous voulions voir si nous pouvions utiliser les dumb-bots pour décoller les gens afin qu'ils puissent coopérer et se coordonner un peu plus - afin que leur capacité native à bien fonctionner puisse être révélée par un peu d'aide, " dit Christakis. Il a trouvé que si les bots jouaient parfaitement, cela n'a pas aidé les humains. Mais si les bots ont fait des erreurs, ils ont libéré le potentiel du groupe pour trouver une solution.

"Certains de ces robots ont fait des choix contre-intuitifs. Même si leurs voisins avaient tous du vert et qu'ils auraient dû choisir de l'orange, au lieu de cela, ils ont également choisi le vert. » Quand ils ont fait cela, il a permis à l'un des voisins verts de cueillir de l'orange, "qui débloque le prochain gars, il peut choisir une couleur différente et, Wow, maintenant nous résolvons le problème". Sans le bot, ces joueurs humains seraient probablement tous restés fidèles au vert, ne réalisant pas que c'était le problème. « L'augmentation des conflits permet temporairement à leurs voisins de faire de meilleurs choix.

En ajoutant un peu de bruit dans le système, les bots ont aidé le réseau à fonctionner plus efficacement. Peut-être qu'une version de ce modèle pourrait impliquer d'infiltrer les fils d'actualité des partisans avec des articles occasionnels offrant une perspective différente, aider à sortir les gens de leurs bulles de confort sur les réseaux sociaux et permettre à la société dans son ensemble de coopérer davantage.

Une grande partie des comportements antisociaux en ligne découlent de l'anonymat des interactions sur Internet - les coûts de réputation d'être méchant sont beaucoup plus bas que hors ligne. Ici, les bots peuvent également offrir une solution. Une expérience a révélé que le niveau d'abus racistes tweetés sur les utilisateurs noirs pouvait être considérablement réduit en utilisant des comptes de bot avec des images de profil blanches pour répondre aux tweeters racistes. Une réponse typique d'un bot à un tweet raciste serait :"Hé mec, rappelez-vous simplement qu'il y a de vraies personnes qui sont blessées lorsque vous les harcelez avec ce genre de langage. » Le simple fait de cultiver un peu d'empathie chez de tels tweeters a réduit leurs tweets racistes presque à zéro pendant des semaines après.

Une autre façon de remédier au faible coût de réputation des mauvais comportements en ligne consiste à concevoir une forme de punition sociale. Une société de jeux, League of Legends, l'a fait en introduisant une fonctionnalité "Tribunal", dans lequel le jeu négatif est puni par les autres joueurs. La société a signalé que 280, 000 joueurs ont été « réformés » en un an, ce qui signifie qu'après avoir été punis par le Tribunal, ils ont changé de comportement et ont ensuite acquis une position positive dans la communauté. Les développeurs pourraient également intégrer des récompenses sociales pour un bon comportement, encourager des éléments plus coopératifs qui aident à établir des relations.

Les chercheurs commencent déjà à apprendre à prédire quand un échange est sur le point de mal tourner – le moment où il pourrait bénéficier d'une intervention préventive. "Vous pourriez penser qu'il y a une minorité de sociopathes en ligne, que nous appelons des trolls, qui font tout ce mal, " dit Cristian Danescu-Niculescu-Mizil, au Département des sciences de l'information de l'Université Cornell. "Ce que nous trouvons réellement dans notre travail, c'est que les gens ordinaires, comme toi et moi, peut se livrer à un tel comportement antisocial. Pour une durée déterminée, vous pouvez réellement devenir un troll. Et c'est surprenant."

C'est aussi alarmant. Je feuillette mentalement mes propres tweets récents, en espérant que je ne me suis pas tourné vers l'intimidation dans une tentative maladroite de paraître drôle ou cool à mes abonnés en ligne. Après tout, il peut être très tentant d'être violent envers quelqu'un de loin, qui tu ne connais pas, si vous pensez que cela impressionnera votre groupe social.

Danescu-Niculescu-Mizil a enquêté sur les sections de commentaires sous les articles en ligne. Il identifie deux déclencheurs principaux pour le trolling :le contexte de l'échange – comment se comportent les autres utilisateurs – et votre humeur. "Si vous passez une mauvaise journée, ou si c'est lundi, par exemple, vous êtes beaucoup plus susceptible de troller dans la même situation, " dit-il. " Tu es plus gentille un samedi matin. "

Après avoir collecté les données, y compris de personnes qui ont eu un comportement de pêche à la traîne dans le passé, Danescu-Niculescu-Mizil a construit un algorithme qui prédit avec une précision de 80 % quand quelqu'un est sur le point de devenir abusif en ligne. Cela donne l'occasion de, par exemple, introduire un délai dans la rapidité avec laquelle ils peuvent publier leur réponse. Si les gens doivent réfléchir à deux fois avant d'écrire quelque chose, qui améliore le contexte de l'échange pour tout le monde :vous êtes moins susceptible de voir les gens se comporter mal, et donc moins susceptible de vous conduire mal.

La bonne nouvelle est que, malgré le comportement horrible que beaucoup d'entre nous ont connu en ligne, la majorité des interactions sont agréables et coopératives. L'indignation morale justifiée est utilement employée pour contester les tweets haineux. Une étude britannique récente portant sur l'antisémitisme sur Twitter a révélé que les publications contestant les tweets antisémites sont partagées beaucoup plus largement que les tweets antisémites eux-mêmes. La plupart des messages haineux ont été ignorés ou partagés uniquement au sein d'une petite chambre d'écho de comptes similaires. Peut-être commençons-nous déjà à faire le travail des bots nous-mêmes.

Comme le souligne Danescu-Niculescu-Mizil, nous avons eu des milliers d'années pour affiner nos interactions de personne à personne, mais seulement 20 ans de médias sociaux. "Hors ligne, nous avons tous ces indices, des expressions faciales au langage corporel en passant par le pitch… alors qu'en ligne, nous discutons des choses uniquement par le biais du texte. I think we shouldn't be surprised that we're having so much difficulty in finding the right way to discuss and cooperate online."

As our online behaviour develops, we may well introduce subtle signals, digital equivalents of facial cues, to help smooth online discussions. En attendant, the advice for dealing with online abuse is to stay calm, it's not your fault. Don't retaliate but block and ignore bullies, or if you feel up to it, tell them to stop. Talk to family or friends about what's happening and ask them to help you. Take screenshots and report online harassment to the social media service where it's happening, and if it includes physical threats, report it to the police.

If social media as we know it is going to survive, the companies running these platforms are going to have to keep steering their algorithms, perhaps informed by behavioural science, to encourage cooperation rather than division, positive online experiences rather than abuse. As users, we too may well learn to adapt to this new communication environment so that civil and productive interaction remains the norm online as it is offline.

"I'm optimistic, " Danescu-Niculescu-Mizil says. "This is just a different game and we have to evolve."

This article first appeared on Mosaic and is republished here under a Creative Commons licence.