Pourquoi partageons-nous des publications sur Facebook ?

Cherchons-nous des informations factuelles, comme le nom de l'usine qui envahit la cour avant? Exprimons-nous de la frustration tout en recherchant de la sympathie ? Est-ce du narcissisme pur ou du narcissisme par procuration, via nos enfants ? Est-ce que c'est de la vantardise, ou le cousin sournois de se vanter, humilité de vantardise ?

Ou est-ce quelque chose de pire ?

Le contenu à intention malveillante présente un problème majeur pour Facebook, qui cherche un moyen d'identifier et de supprimer rapidement les messages nuisibles, comme la diffusion en direct de la fusillade du 15 mars en Nouvelle-Zélande, au milieu d'un volume de contenu trop vaste pour que les humains puissent le modérer.

Serge Belongie, professeur d'informatique à Cornell Tech, étudie ce qu'il appelle « l'intentonomie – le paysage psycho-émotionnel complexe qui se cache derrière les publications sur Facebook et Instagram.

Belongie et son équipe travaillent avec Facebook pour définir les intentions de publication possibles - de bénignes à polarisantes à haineuses - et remplir un ensemble de données avec des exemples. L'objectif est de créer et de former un système d'apprentissage automatique qui peut prédire l'intention et, finalement, alerter le réseau social des publications problématiques en temps réel.

« Nature humaine et politique et comportement tribal, incitations monétaires - il y a juste un million de choses qui jouent là-dedans, " dit Belongie, qui a reçu 1,77 million de dollars, subvention de trois ans de Facebook pour travailler sur des projets liés à l'identification de contenu à intention malveillante. "Le mieux que nous puissions faire est de fournir des outils pour que si quelqu'un se présente de bonne foi, ils peuvent séparer l'information de la désinformation."

Dans un projet séparé, L'équipe de Belongie travaille sur des approches d'apprentissage automatique pour détecter les contrefaçons. Les personnes qui achètent des publicités sur Facebook doivent valider leurs comptes à l'aide d'une identification; Belongie utilisera son expertise en vision par ordinateur - un domaine de l'intelligence artificielle axé sur l'enseignement des machines à voir comme le font les humains - pour développer des méthodes qui pourraient déterminer si ces identifiants sont faux.

"Les approches conventionnelles d'apprentissage automatique exigent que vous disposiez de grands ensembles de formation d'identifiants réels, de chaque état, gamme chaque année, collecté par un professionnel, et puis vous avez besoin d'un gros volume de fausses pièces d'identité, " Belongie a dit. " Il est très difficile d'obtenir ce genre de données étiquetées; il n'y en a pas beaucoup."

Au lieu, son approche s'appuiera sur les recherches de son groupe sur l'utilisation de la vision par ordinateur pour reconnaître les différences fines entre les plantes, animaux et champignons. Une approche similaire pourrait être utile pour trouver de minuscules détails révélant des identifiants falsifiés, comme le mauvais type de virgule ou d'apostrophe.

"Si quelqu'un me donne juste un paquet de données et que la plupart sont correctes, la plupart sont réels, comment trouvez-vous cette aiguille dans la botte de foin ?" dit-il. "Notre objectif est la détection d'anomalies, pour trouver des choses qui ne sont pas à leur place."