Les entreprises de médias sociaux ont bien réussi les audiences du Congrès américain sur l'insurrection du 6 janvier. Ils ont profité de la vidéo diffusée en direct alors que les émeutiers ont pris d'assaut le bâtiment du Capitole. Ils ont profité du brassage incendiaire de désinformation qui a incité des milliers de personnes à se rendre à Washington D.C. pour le rassemblement « Save America ». Ils continuent de profiter de ses conséquences. L'extrémisme clickbait a été bon pour les affaires.

Les séquences vidéo tournées par les émeutiers eux-mêmes ont également été une source majeure de preuves pour la police et les procureurs. Le jour de l'attaque du Capitole, les modérateurs de contenu des principales plateformes de médias sociaux ont été submergés de messages qui enfreignaient leurs politiques contre l'incitation ou la glorification de la violence. Des sites plus favorables à l'extrême droite, comme Parler, étaient inondés de tels contenus.

En témoignant aux audiences du Congrès, un ancien employé de Twitter a parlé de supplier l'entreprise de prendre des mesures plus fortes. En désespoir de cause, la veille de l'attaque, elle a envoyé un message à ses collègues :"Lorsque les gens se tireront dessus demain, j'essaierai de me reposer en sachant que nous avons essayé."

Faisant allusion aux tweets de l'ancien président Trump, des Proud Boys et d'autres groupes extrémistes, elle a déclaré avoir réalisé que "nous étions au gré d'une foule violente qui était enfermée et chargée".

Le besoin de changement

Dans les semaines qui ont suivi le massacre de Christchurch en 2019, des signes encourageants ont montré que les nations, individuellement et collectivement, étaient prêtes à mieux réglementer Internet.

Les entreprises de médias sociaux avaient lutté contre l'acceptation de la responsabilité de leur contenu, citant des arguments qui reflétaient les philosophies libertaires des pionniers de l'Internet. Au nom de la liberté, ont-ils soutenu, les règles et les normes de comportement établies de longue date devraient être mises de côté. Leur succès à influencer les législateurs a permis aux entreprises d'éviter des sanctions juridiques, même lorsque leurs plateformes sont utilisées pour motiver, planifier, exécuter et diffuser en direct des attaques violentes.

Après Christchurch, l'indignation croissante du public a forcé les grandes entreprises à agir. Ils ont reconnu que leurs plates-formes avaient joué un rôle dans les attaques violentes, adopté des politiques plus strictes en matière de contenu acceptable, embauché plus de modérateurs de contenu et élargi leur capacité à intercepter le contenu extrême avant sa publication.

Il semblait impensable en 2019 que des mesures réelles ne soient pas prises pour réglementer et modérer les plateformes de médias sociaux afin d'empêcher la propagation de l'extrémisme violent en ligne sous toutes ses formes. Le livestream était un élément central de l'attaque de Christchurch, soigneusement conçu pour ressembler à un jeu vidéo et destiné à inspirer de futures attaques.

Près de deux ans plus tard, plusieurs plateformes de médias sociaux ont joué un rôle central dans l'incitation et l'organisation de la violente attaque contre le Capitole des États-Unis qui a fait de nombreux morts et blessés, et a fait craindre à beaucoup qu'une guerre civile ne soit sur le point d'éclater.

En effet, les médias sociaux ont été impliqués dans tous les aspects de l'attaque du Capitole, tout comme ils l'avaient été dans le massacre de Christchurch. Les deux ont été fermentés par des théories du complot sauvages et infondées qui ont circulé librement sur les plateformes de médias sociaux. Les deux ont été entrepris par des personnes qui se sentaient fortement liées à une communauté en ligne de vrais croyants.

Le processus de radicalisation

Le témoignage de Stephen Ayres aux audiences du Congrès du 6 janvier ouvre une fenêtre sur le processus de radicalisation.

Se décrivant comme un "père de famille ordinaire" qui était "un noyau dur dans les médias sociaux", Ayres a plaidé coupable à une accusation de conduite désordonnée pour son rôle dans l'invasion du Capitole. Il a fait référence à ses comptes sur Twitter, Facebook et Instagram comme source de sa conviction que l'élection présidentielle américaine de 2020 avait été volée. Ses principales sources étaient les publications de l'ancien président lui-même.

Ayres a témoigné qu'un tweet du président Trump l'avait amené à assister au rassemblement "Save America". Il a illustré les milliers d'Américains qui n'étaient membres d'aucun groupe extrémiste, mais qui avaient été motivés par les médias sociaux grand public pour se rendre à Washington D.C.

Le rôle de l'ancien président américain Trump dans la montée de l'extrémisme de droite, aux États-Unis et au-delà, est un thème récurrent dans Rethinking Social Media and Extremism, que j'ai co-édité avec Paul Pickering. Au moment du massacre de Christchurch, il y avait de nombreuses preuves que les sociétés Internet basées aux États-Unis fournissaient des plateformes mondiales pour des causes extrémistes.

Pourtant, chaque fois que leur modération de contenu s'est étendue aux voix de l'extrême droite, ces entreprises ont fait face à la censure des conservateurs, y compris de la Maison Blanche de Trump. Le message était clair :permettre la liberté d'expression sans entraves pour la soi-disant "droite alternative" était le prix que les entreprises de médias sociaux devraient payer pour leur oligopole. Bien que le danger croissant du terrorisme intérieur soit apparent, la menace de poursuites antitrust était un puissant facteur de dissuasion pour les actions des entreprises contre les extrémistes de droite.

Les entreprises de médias sociaux ont subi des pressions importantes de la part de pays autres que les États-Unis. Par exemple, quelques mois après l'attaque de Christchurch, les dirigeants mondiaux se sont réunis à Paris pour signer l'appel de Christchurch pour lutter contre l'extrémisme violent en ligne. Le document était de ton modéré, mais les États-Unis ont refusé de le signer. Au lieu de cela, la Maison Blanche a doublé en alléguant que la principale menace résidait dans la suppression des voix conservatrices.

En 2021, l'administration Biden a signé tardivement l'appel de Christchurch, mais elle n'a réussi à faire avancer aucune mesure au niveau national. Malgré quelques discussions difficiles pendant la campagne électorale, le président Biden n'a pas été en mesure d'adopter une législation qui réglementerait mieux les entreprises technologiques.

Avec les élections de mi-mandat qui se profilent – ​​des élections qui vont souvent à l'encontre du parti du président – ​​il n'y a guère de raisons d'être optimiste. Les décisions des législateurs américains continueront de se répercuter à l'échelle mondiale tandis que la propriété des médias sociaux occidentaux reste fermement centrée aux États-Unis.

L'échec de l'autorégulation

L'esprit du libertarianisme perdure au sein des entreprises qui sont passées de start-ups locales à des sociétés d'un billion de dollars en une décennie. Leur engagement envers l'autorégulation convenait aux législateurs, qui avaient du mal à comprendre cette nouvelle technologie en constante évolution. L'échec manifeste de l'autorégulation s'est avéré mortel pour les cibles du terrorisme et se présente désormais comme un danger pour la démocratie elle-même.

Dans son chapitre sur Repenser les médias sociaux et l'extrémisme, Sally Wheeler nous demande de reconsidérer la base de la licence sociale que les entreprises de médias sociaux doivent opérer au sein des démocraties. Elle soutient que, plutôt que de se demander si leurs activités sont légales, nous pourrions nous demander quelles réformes sont nécessaires pour garantir que les médias sociaux ne causent pas de préjudice grave aux personnes ou aux sociétés.

Désormais essentielles à la fourniture de nombreux services publics, les plateformes de médias sociaux pourraient être considérées comme des services publics et, pour cette seule raison, être soumises à des règles et à des attentes différentes et plus élevées. Ce point a été amplement démontré, bien que involontairement, par Facebook lui-même lorsqu'il a bloqué de nombreux sites, y compris les services d'urgence, lors d'un désaccord avec le gouvernement australien en 2021. Dans le processus, Facebook a mis en lumière la dépendance croissante du pays à une entreprise privée mal réglementée plate-forme.

Au milieu du tollé national qui a suivi le massacre de Christchurch, le gouvernement australien a introduit à la hâte une législation visant à accroître les responsabilités des sociétés Internet. Apparemment rédigé en seulement 48 heures avant d'être précipité par les deux chambres du Parlement, le projet de loi allait toujours être défectueux.

Une réforme efficace exige que nous reconnaissions d'abord Internet comme un espace dans lequel les actions ont des conséquences concrètes. Les victimes les plus visibles sont celles directement visées par les menaces de violence extrême, principalement les femmes, les immigrés et les minorités. Même lorsque les menaces ne sont pas mises à exécution, les gens sont intimidés jusqu'au silence, voire à l'automutilation.

Plus insidieux mais peut-être tout aussi nocif à long terme, est le déclin général de la civilité qui pousse le discours public vers des positions extrêmes. Sur les réseaux sociaux, ce que l'on appelle la fenêtre d'Overton du débat politique dominant n'a pas tant été repoussé qu'introduit.

Il est largement admis que les cadres juridiques et réglementaires existants sont tout simplement inadaptés à l'ère numérique. Pourtant, même si la pandémie mondiale a accéléré notre dépendance à tout ce qui est numérique, il y a moins d'accord sur la nature du problème, et encore moins sur les remèdes nécessaires. Alors que l'action est clairement nécessaire, il y a toujours le danger d'aller trop loin.

Le fonctionnement d'une société démocratique dépend autant de notre capacité à débattre des idées et à exprimer notre désaccord qu'à la prévention de l'extrémisme violent. Notre défi consiste à trouver un équilibre entre la liberté d'expression et d'autres droits concurrents sur Internet, comme nous le faisons ailleurs. L'approche actuelle consistant simplement à augmenter les sanctions auxquelles sont confrontées les entreprises de médias sociaux est plus susceptible de faire pencher la balance contre la liberté d'expression. Dans un paysage de communication de plus en plus concentré entre les mains de quelques grandes entreprises, nous avons besoin de plus de voix et de plus de diversité, pas moins. + Explorer plus loin

Donald Trump revient-il sur Facebook ? Facebook pourrait lever l'interdiction en janvier, selon l'exécutif

Cet article est republié de The Conversation sous une licence Creative Commons. Lire l'article d'origine.