Sur Reddit, qui compte 430 millions d'utilisateurs mensuels, un article de presse digne de confiance sur la Californie aplatissant sa courbe de coronavirus était 77e dans les publications recommandées de la journée. Pendant ce temps, "Socially Distant Drinking Games" était un fil conducteur de premier plan.

« Pendant la pandémie, quand on a peu de temps, il y a beaucoup d'informations contradictoires et concurrentes, et lorsque nous recevons des suggestions de machines qui disent « Voici les trois principales choses à lire, " c'est probablement ce que nous allons lire, " a déclaré J. Nathan Matias, professeur assistant de communication à la Faculté de l'agriculture et des sciences de la vie. "Et donc en faisant attention à ce que ces algorithmes promeuvent, et la qualité de ces informations, est incroyablement important."

Depuis 2016, Matias a suivi les algorithmes sur Reddit, un vaste réseau de forums où les gens partagent du contenu et des nouvelles, et qui prétend avoir plus d'utilisateurs que Twitter. Alors que la pandémie de coronavirus a explosé, Matias a commencé à utiliser l'outil, appelé COVID-19 Algo-Tracker, pour surveiller les publications et les fils de discussion liés aux virus de Reddit, à la fois pour informer les gens sur les mécanismes derrière les informations qu'ils reçoivent et pour créer un grand, ensemble de données accessibles au public pour de futures recherches.

"Le traqueur d'algorithmes était notre tentative de prendre ce que nous avons déjà et de créer une ressource d'information publique sur les types d'informations pandémiques promues par ces algorithmes puissants et influents qui atteignent des centaines de millions de personnes, " dit Matias.

Développé par son Citizens and Technology Lab, l'Algo-Tracker prend des instantanés toutes les deux minutes de deux des algorithmes clés de Reddit, y compris son classement de popularité par défaut. Le tableau de bord Algo-Tracker, mis à jour toutes les six heures, examine les publications qui apparaissent dans les 100 meilleures recommandations pour les deux algorithmes. Les messages sont considérés comme liés au coronavirus s'ils incluent l'un des 35 mots ou phrases - une liste périodiquement mise à jour comprenant actuellement « s'auto-isoler, " " désinfectant, " " Fauci, " " aplatir la courbe, " "chloroquine" et "immunité collective".

Des exemples de publications récentes promues par l'algorithme sont "L'Université de la Liberté porte plainte contre les journalistes qui ont couvert le campus ouvert pendant l'épidémie" et "Un artiste d'effets spéciaux s'est fait un masque pour le coronavirus et je ne peux pas m'en remettre".

Dans de nombreux cas, Matias a dit, l'algorithme a promu un contenu scientifique précis, et certains utilisateurs de Reddit se sont organisés pour essayer de fournir des informations fiables. Une nouvelle communauté de coronavirus, créé par les utilisateurs spécifiquement pour organiser des informations sur la pandémie, a réussi à faire promouvoir ses publications par les algorithmes de Reddit.

Mais les modérateurs humains se retrouvent également dépassés et débordés par le volume de contenu, à la fois fiable et discutable.

« Le risque est que, lorsque les gens ont des conversations, alors qu'ils essaient de faire face à cet incroyable moment de stress et de perturbation, les communautés peuvent se trouver obligées de modérer et de soutenir des conversations fiables et précises sur les risques pour la santé publique et ce que les gens peuvent faire à leur sujet, " a déclaré Matias. "Je pense que beaucoup de communautés se retrouvent submergées par un sujet qu'elles ne s'attendaient pas à ce qu'elles soient modérées et contenues."

Les algorithmes de différentes entreprises fonctionnent différemment – ​​et certaines grandes entreprises de médias sociaux ont déclaré avoir modifié leurs algorithmes pour donner la priorité aux informations des Centers for Disease Control and Prevention et d'autres sources fiables. Mais généralement comprendre comment les algorithmes fonctionnent et nous influencent a des implications importantes pour la santé publique, dit Mattias.

"Vous entendez une rumeur en ligne - elle vous est promue par un algorithme de réseau social - et ensuite vous allez sur Google pour savoir si c'est vrai. Et la première chose que vous voyez sur Google a été choisie par un algorithme, ", a-t-il déclaré. "Nos réseaux de médias sociaux façonnent ce dont les gens sont conscients pendant la pandémie, et sont au cœur d'une grande partie de ce que nous savons et croyons et de la façon dont nous nous comportons."