En 2015, un homme portant un masque de crâne a publié une vidéo décrivant ses plans pour assassiner Brianna Wu. La vidéo du crâne n'était que l'un des nombreux messages dérangeants et bizarres ciblant Wu et d'autres femmes en ligne dans le cadre d'une campagne de harcèlement baptisée GamerGate.

C'était au début de la modération de contenu dans un écosystème de médias sociaux avec beaucoup moins de règles, mais Twitter a quand même agi rapidement pour supprimer la vidéo, l'empêchant de devenir virale, a déclaré Wu. Bien que GamerGate ait illustré à quel point les plateformes de médias sociaux étaient incapables de protéger leurs utilisateurs, l'action rapide de Twitter a servi d'exemple précoce de la volonté relative de l'entreprise de répondre aux critiques et de lutter contre les abus, a déclaré Wu.

Bien que les plateformes de médias sociaux aient eu du mal à répondre à la désinformation, aux discours de haine, à l'ingérence dans les élections et à l'incitation à la violence, Twitter a adopté au fil des ans une approche plus nuancée et approfondie, développant, révisant et élargissant un vaste cadre politique.

Twitter, par exemple, a mené des efforts pour créer des politiques de sécurité et appliquer des violations très médiatisées de ses règles. Il a suspendu définitivement le provocateur de droite Milo Yiannopoulos en juillet 2016 et le théoricien du complot Alex Jones en septembre 2018. Facebook n'a interdit Yiannopoulos et Jones qu'en mai 2019.

À l'été 2020, Twitter a apposé une étiquette d'avertissement sur le tweet du président Trump de l'époque menaçant une répression sévère des manifestations à Minneapolis comme violant ses règles sur la « glorification de la violence », et peu après a signalé deux autres tweets liés aux élections pour vérification des faits. Cette décision a distingué Twitter de Facebook, dont le directeur général, Mark Zuckerberg, a indiqué qu'il n'était pas enclin à agir de la même manière, et a ouvert la voie à une multitude d'entreprises de médias sociaux qui ont ensuite suspendu Trump de leurs plateformes quelques jours avant la fin de son mandat.

Cette année, Facebook a annoncé une suspension de 24 heures du compte de la représentante Marjorie Taylor Greene, R-Ga., un jour après que Twitter a définitivement interdit Greene pour avoir diffusé à plusieurs reprises des informations erronées sur COVID-19.

Mais l'offre réussie d'Elon Musk pour acheter Twitter pourrait changer la trajectoire de l'entreprise. Musk, qui a déclaré qu'il adoptait une philosophie d'absolutisme de la liberté d'expression, a clairement indiqué qu'il souhaitait une plate-forme avec moins d'application, écrivant dans une série de tweets mardi qu'il favorisait la modération uniquement lorsque la loi l'exigeait.

"Je suis contre la censure qui va bien au-delà de la loi. Si les gens veulent moins de liberté d'expression, ils demanderont au gouvernement d'adopter des lois à cet effet. Par conséquent, aller au-delà de la loi est contraire à la volonté du peuple", a déclaré Musk sur Twitter. .

"Twitter a toujours été l'une des plateformes de médias sociaux les plus avant-gardistes qui a toujours testé de nouvelles idées et de nouveaux concepts", a déclaré Jennifer Edwards, directrice exécutive du Texas Social Media Research Institute de la Tarleton State University.

L'achat de l'entreprise par Musk et le pivot vers l'éthique de modération du laissez-faire qu'il privilégie pourraient également pousser d'autres plateformes de médias sociaux à faire marche arrière et à assouplir leurs normes de modération, a-t-elle déclaré.

La dynamique de Twitter en tête du peloton pourrait également aller dans la direction opposée sous Musk, le nouveau propriétaire de Twitter s'inspirant de son homologue plus vétéran sur Facebook. Par exemple, Musk a déjà déclaré qu'il souhaitait commencer à "authentifier tous les humains" sur Twitter - une décision qui, bien que vague, pourrait aligner davantage sa plate-forme sur celle de Zuckerberg, où les utilisateurs sont censés publier sous le nom "qu'ils utilisent dans la vie de tous les jours". .

Les insinuations de Musk selon lesquelles il pourrait emboîter le pas ont déjà suscité des critiques.

"Tout défenseur de la liberté d'expression (comme Musk semble se voir lui-même) désireux d'exiger que les utilisateurs soumettent une pièce d'identité pour accéder à une plate-forme ignore probablement l'importance cruciale du pseudonymat et de l'anonymat", ont écrit plusieurs dirigeants de l'association à but non lucratif Electronic Frontier Foundation. à la nouvelle de l'achat de Musk. Les politiques qui exigent de vrais noms sur Facebook ont ​​été utilisées pour repousser les communautés précaires telles que les personnes transgenres, les drag queens et les travailleuses du sexe, indique le communiqué.

De nombreux utilisateurs se méfient naturellement des médias sociaux, ne veulent pas fournir d'identification et abandonnent, a déclaré Sophie Zhang, ancienne scientifique des données chez Facebook. En Corée du Sud, les bases de données d'authentification par nom réel ont été piratées à plusieurs reprises car elles constituaient un trésor d'informations personnelles, a-t-elle déclaré.

"L'absolutisme de la liberté d'expression est une bonne idée", mais la grande majorité de la modération du contenu n'est pas une discussion politique controversée, selon Musk, et donc ces valeurs ne fonctionnent pas nécessairement dans la pratique, a déclaré Zhang.

Zhang a déclaré qu'il était trop tôt pour savoir comment l'influence de Musk affectera la modération du contenu sur la plate-forme. Les défis de la plate-forme peuvent le forcer, ainsi que d'autres partisans de l'absolutisme de la liberté d'expression, à se demander pourquoi il est incapable de laisser la parole s'exprimer sans enfreint et d'empêcher simultanément la plate-forme de devenir un marais de crypto-spam, de pornographie et de fausses publicités.

"La vraie question pour moi est de savoir comment Elon prend ces décisions une fois qu'il occupe réellement le poste de responsabilité", a-t-elle déclaré.

Christopher Bail, professeur à l'Université Duke et directeur du laboratoire de polarisation du campus, a déclaré que les prémisses de certaines des propositions de Musk étaient erronées. Musk est catégorique sur le fait que les voix conservatrices sont minimisées, et bien qu'il soit possible de citer des cas très médiatisés tels que la suspension du compte de Trump comme exemples de parti pris contre les conservateurs, des études montrent que la plate-forme a en fait tendance à promouvoir des perspectives conservatrices, a déclaré Bail. /P>

Musk a déclaré que les comptes ne devraient presque jamais être interdits, mais a également promis de sévir contre les spammeurs, en les identifiant vraisemblablement par le contenu de leur discours et en prenant des mesures pour interdire les comptes.

"Je pense que là où le caoutchouc touche la route, ce sera plus difficile qu'il ne le pense de faire ce qu'il veut", a déclaré Bail.

Les chercheurs et les militants craignent que l'accent mis par Musk sur la liberté d'expression n'érode les outils que l'équipe de confiance et de sécurité de Twitter a construits au fil des ans. En se donnant des approches autres que la désactivation de compte et la suppression de messages, Twitter a rendu ses règles beaucoup plus applicables, ont déclaré des experts. L'entreprise a fait preuve d'une plus grande transparence que ses pairs, en maintenant des lignes de communication ouvertes avec les chercheurs et en rendant publiques des quantités de données concernant le spam et la désinformation sur la plate-forme et disponibles pour analyse par des universitaires et d'autres personnes.

Twitter conserve une archive des messages qu'il a supprimés de la plate-forme, permettant aux chercheurs d'examiner la portée et l'influence de la désinformation virale. L'initiative Birdwatch de Twitter vise à créer une approche participative pour signaler la désinformation.

Wu a déclaré que pendant le pic de harcèlement auquel elle a été confrontée pendant GamerGate, la vice-présidente de la confiance et de la sécurité de Twitter a tendu la main pour entendre les préoccupations et offrir son soutien. Dans les années qui ont suivi, Twitter s'est séparé du lot en faisant de réels efforts pour dialoguer avec des critiques comme elle.

"Ils ont fait plus que Facebook, plus que Reddit, plus que Google", a déclaré Wu, qui dit avoir conseillé de manière informelle l'équipe de confiance et de sécurité de l'entreprise à titre non rémunéré pendant environ cinq ans. "Twitter n'a jamais reçu le crédit qu'il mérite pour avoir combattu le harcèlement de manière agressive."