Une page Facebook générée automatiquement pour un groupe s'identifiant comme le groupe terroriste "Al-Qaïda dans la péninsule arabique" affiche une photo du navire de guerre bombardé de la marine américaine USS Cole. La page était toujours en ligne mardi, 7 mai 2019, lorsque la capture d'écran a été effectuée. Facebook dit avoir mis en place des systèmes robustes pour supprimer le contenu des groupes extrémistes, mais une plainte scellée d'un dénonciateur examinée par l'AP indique que le contenu interdit reste sur le Web et facile à trouver. (Facebook via AP)
La question revient sans cesse, avec du matériel extrémiste, discours de haine, ingérence électorale et atteinte à la vie privée. Pourquoi Facebook ne peut-il pas simplement le réparer ?
C'est compliqué, avec des raisons qui incluent la taille de Facebook, son modèle économique et ses limites techniques, sans parler des années de croissance incontrôlée. Oh, et l'élément de la nature humaine.
Dernière révélation :Facebook crée par inadvertance des vidéos de célébration en utilisant du contenu extrémiste et des pages commerciales auto-générées pour ISIS et Al Qaida. L'entreprise dit qu'elle travaille sur des solutions et que les problèmes s'améliorent. C'est vrai, mais les critiques disent que mieux ne suffit pas lorsque des fusillades de masse sont diffusées en direct et que des foules en ligne répandent des rumeurs qui conduisent à des violences meurtrières.
"Ils ont été extrêmement lents à gérer tout, des abus sexuels sur enfants au terrorisme, suprémacie blanche, harcèlement, porno non consensuel" et des choses comme permettre aux annonceurs de cibler des catégories telles que "détestant les juifs, " simplement parce que certains utilisateurs avaient répertorié le terme comme un " intérêt, " dit Hany Farid, un expert en criminalistique numérique à l'Université de Californie, Berkeley.
Alors que de nouveaux problèmes surgissent, La formule de Facebook a été de s'excuser et de promettre d'apporter des changements, notant parfois également qu'il n'avait pas prévu comment des acteurs malveillants pourraient si facilement abuser de sa plate-forme. Plus récemment, l'entreprise a également souligné à quel point elle s'améliore, à la fois techniquement dans son utilisation de l'intelligence artificielle pour détecter les problèmes et en termes de consacrer plus d'argent et d'efforts à les résoudre.
Une bannière indiquant « L'État islamique » est affichée sur la page Facebook d'un utilisateur s'identifiant comme étant Nawan Al-Farancsa. La page était toujours en ligne mardi, 7 mai 2019, lorsque la capture d'écran a été effectuée. Facebook dit avoir mis en place des systèmes robustes pour supprimer le contenu des groupes extrémistes, mais la plainte d'un dénonciateur scellée examinée par l'AP indique que le contenu interdit reste sur le Web et est facile à trouver. (Facebook via AP)
« Après de lourds investissements, nous détectons et supprimons le contenu terroriste avec un taux de réussite bien plus élevé qu'il y a deux ans, " Facebook a déclaré mercredi en réponse aux révélations sur les pages générées automatiquement. " Nous ne prétendons pas tout trouver, et nous restons vigilants dans nos efforts contre les groupes terroristes dans le monde. »
Il a connu un certain succès. Fin 2016, Le PDG Mark Zuckerberg a tristement rejeté comme "assez fou" l'idée que de fausses nouvelles sur son service auraient pu influencer les élections. Il a ensuite fait marche arrière, et depuis lors, l'entreprise a réduit le nombre de désinformations partagées sur son service, tel que mesuré par plusieurs études indépendantes.
Zuckerberg a également, dans l'ensemble, évité des gaffes similaires en concédant des erreurs et en présentant des excuses au public et aux législateurs .
Mais même si l'entreprise résout un problème, d'autres surgissent. La raison en est peut-être inscrite dans son ADN. Et ce n'est pas seulement parce que son modèle économique repose sur l'utilisation par le plus grand nombre de personnes possible, laissant derrière eux des informations personnelles qui peuvent ensuite être ciblées par les annonceurs.
En ce jeudi, 29 mars 2018, fichier photo, le logo de Facebook apparaît sur les écrans du Nasdaq MarketSite, à Times Square à New York. La question revient sans cesse, avec du matériel extrémiste, discours de haine, ingérence électorale, atteintes à la vie privée, discrimination en matière de logement. Pourquoi Facebook ne peut-il pas simplement le réparer ? (AP Photo/Richard Drew, Déposer)
En ce 11 avril 2018, fichier photo, Le PDG de Facebook, Mark Zuckerberg, témoigne devant une audience de House Energy and Commerce à Capitol Hill à Washington. Facebook donne l'impression d'arrêter la grande majorité des publications extrémistes avant que les utilisateurs ne les voient. Mais une plainte confidentielle d'un dénonciateur auprès de la Securities and Exchange Commission obtenue par l'Associated Press allègue que la société de médias sociaux a exagéré son succès. (AP Photo/Andrew Harnik, Déposer)
"Presque tout ce que Facebook a conçu a été conçu pour les bonnes personnes. Des gens qui sont gentils les uns avec les autres, qui ont des anniversaires à fêter, qui ont de nouveaux chiots et aiment généralement bien traiter les autres, " dit Siva Vaidhyanathan, directeur du Center for Media and Citizenship de l'Université de Virginie. "Fondamentalement, Facebook est fait pour une meilleure espèce que la nôtre. S'il était fait pour les golden retrievers, tout serait génial."
Mais si seulement 1% des 2,4 milliards de personnes sur Facebook veulent faire des choses terribles aux autres, c'est 24 millions de personnes.
"Toutes les deux semaines, nous entendons parler de Facebook qui fait tomber des pages gênantes, faire des promesses d'embaucher plus de personnes, construire l'IA et ainsi de suite, " a déclaré Vaidhyanathan. " Mais à l'échelle de Facebook, rien de tout cela n'aura d'importance. Nous sommes fondamentalement coincés avec toutes ces ordures. »
Chris Hughes, un co-fondateur de Facebook, a appelé à la dissolution du géant des médias sociaux dans un éditorial de jeudi. Vaidhyanathan pense également qu'une réglementation gouvernementale stricte pourrait être la réponse, telles que les lois qui « limitent la capacité des entreprises à aspirer toutes nos données et à les utiliser pour cibler la publicité ».
"Nous devrions vraiment nous attaquer au back-end de Facebook, " dit-il. " C'est ce que vous devez attaquer. "
© 2019 La Presse Associée. Tous les droits sont réservés.
