Quelques semaines seulement après un vaste effort annoncé par les plateformes technologiques pour freiner la diffusion de contenus violents, une vidéo de la fusillade meurtrière de mercredi dans la ville allemande de Halle a été mise en ligne, où il a été vu par quelques 2, 200 personnes.

Le tireur a posté une vidéo de l'attaque sur la plate-forme de jeu en direct Twitch appartenant à Amazon, l'entreprise a reconnu.

La vidéo de la fusillade dans une synagogue et un restaurant turc comprenait un « manifeste » avec des commentaires racistes et antisémites.

"Twitch a une politique de tolérance zéro contre les comportements haineux, et tout acte de violence est pris très au sérieux, ", a déclaré un porte-parole de Twitch.

"Nous avons travaillé de toute urgence pour supprimer ce contenu et suspendrons de manière permanente tous les comptes publiant ou republiant du contenu de cet acte odieux."

Néanmoins, l'attaque a été diffusée pendant 35 minutes et a finalement été vue par 2 personnes, 200 personnes, dont cinq pendant la diffusion en direct, avant la suppression de la vidéo, a déclaré la plateforme sur Twitter.

La nouvelle survient après la fusillade meurtrière d'une mosquée néo-zélandaise diffusée en direct sur Facebook en mars, ce qui a poussé les gouvernements à faire pression sur les réseaux sociaux pour empêcher la diffusion d'actes violents sur leurs plateformes.

Le 23 septembre, Facebook a annoncé des efforts supplémentaires aux Nations Unies lors d'une réunion avec la Première ministre néo-zélandaise Jacinda Ardern, qui a pris la cause de la lutte contre l'extrémisme en ligne.

Le mois dernier également, Amazon a annoncé qu'il rejoignait le Global Internet Forum to Counter Terrorism, une alliance chargée de s'attaquer aux contenus les plus dangereux sur les réseaux sociaux.

Les entreprises technologiques cherchaient à éviter une répétition de la gestion du bain de sang à Christchurch, où l'agresseur a publié un manifeste en ligne, puis a diffusé en direct son meurtre de 51 fidèles.

Détection par algorithme

Tic, qui a gagné en popularité pour les jeux en direct, a été acquis en 2014 par Amazon pour 970 millions de dollars, et compte environ 15 millions d'utilisateurs actifs quotidiens.

Il a déclaré que le compte utilisé par le tireur avait été créé "environ deux mois avant la diffusion de la fusillade" et n'avait été utilisé qu'une seule fois pour tenter de diffuser en continu.

Après le massacre de Christchurch, Facebook et d'autres ont souligné les défis de la prévention du partage de contenu violent, souvent avec des modifications mineures pour éviter la détection par l'intelligence artificielle.

"Cette vidéo n'a fait surface dans aucune recommandation ni dans aucun répertoire ; à la place, notre enquête suggère que des personnes coordonnaient et partageaient la vidéo via d'autres services de messagerie en ligne, " dit Twitch.

Facebook a également récemment annoncé des efforts pour travailler avec la police à Londres et ailleurs pour obtenir des données sur la violence afin d'améliorer ses algorithmes de détection.

"Les algorithmes de filtrage n'ont jusqu'à présent pas été très efficaces pour détecter la violence en direct, " a noté Jillian Peterson, professeur de criminologie à l'université Hamline, qui a suggéré que les entreprises de médias sociaux pourraient finir par être « tenues pour responsables » de leur rôle dans la diffusion de contenu violent et haineux.

Les recherches de Peterson et d'autres suggèrent que les tireurs peuvent être affectés par la contagion lorsqu'ils voient des attaques similaires.

"De plusieurs façons, ces tournages sont des performances, destiné à nous tous à regarder, ", a déclaré Peterson.

"Les médias sociaux - et maintenant les services de diffusion en direct - ont donné aux auteurs une scène plus large et un public plus large. Les auteurs cherchent à montrer leur grief au monde, et la diffusion en direct leur donne les moyens de le faire."

Hans-Jakob Schindler du projet contre l'extrémisme, un groupe cherchant à freiner la violence en ligne, a déclaré que le dernier livestream mettait en évidence la nécessité d'actions plus fortes contre les plateformes sociales.

« Les plateformes en ligne doivent intensifier et arrêter l'utilisation de leurs services et, à leur tour, les sociétés mères doivent les tenir responsables, " a déclaré Schindler.

"Amazon est tout autant à blâmer que Twitch pour avoir autorisé ce flux en ligne. Cet incident tragique démontre une fois de plus qu'une approche d'autorégulation n'est pas assez efficace et souligne malheureusement la nécessité d'une réglementation plus stricte du secteur technologique."

© 2019 AFP