Des chercheurs de l'Université du Colorado Boulder ont conçu une nouvelle technique pour détecter les attaques personnelles malveillantes sur les réseaux sociaux comme Instagram.

La nouvelle approche, développé par le centre de recherche sur la cybersécurité de CU Boulder, combine plusieurs outils informatiques différents pour analyser des quantités massives de données de médias sociaux, envoyer des alertes aux parents ou aux administrateurs réseau en cas d'abus.

C'est rapide comme une fusée, aussi :dans des recherches récemment publiées, le groupe a indiqué que leur approche utilise cinq fois moins de ressources informatiques que les outils existants. C'est assez efficace pour surveiller un réseau de la taille d'Instagram pour un investissement modeste dans la puissance du serveur, a déclaré le co-auteur de l'étude, Richard Han.

« La réponse des réseaux sociaux aux fausses nouvelles a récemment commencé à augmenter, même s'il a fallu de graves conséquences pour en arriver là, " dit Han, professeur agrégé au Département d'informatique. "La réponse doit être tout aussi forte pour la cyberintimidation."

Le groupe a également publié une application gratuite pour les téléphones Android qui permet aux parents de recevoir des alertes lorsque leurs enfants sont victimes d'intimidation sur Instagram. Le co-auteur de l'étude, Shivakant Mishra, a expliqué que l'application, appelé BullyAlert, peuvent apprendre de ce que les parents considèrent comme de l'intimidation et s'y adapter.

« En tant que parent, Je sais que bien souvent nous ne sommes pas au courant de ce que font nos enfants sur leurs réseaux sociaux, " dit Mishra, un professeur d'informatique. "Une application comme celle-ci qui nous informe lorsque quelque chose de problématique se produit est inestimable."

Pour construire leur boîte à outils, les chercheurs de CyberSafety ont d'abord employé de vrais humains pour enseigner à un programme informatique comment séparer les commentaires en ligne bénins des abus.

Prochain, les chercheurs ont conçu un système qui fonctionne un peu comme le triage hospitalier. Lorsqu'un utilisateur télécharge un nouveau message, les outils du groupe scannent rapidement les commentaires. Si ces commentaires semblent douteux, alors ce poste obtient une haute priorité pour recevoir d'autres contrôles. Mais si les commentaires semblent tous charitables, le système place ensuite le message au bas de sa file d'attente.

« Notre objectif est de nous concentrer sur les séances les plus vulnérables, " a déclaré Han. "Nous continuons à surveiller toutes les sessions, mais nous surveillons plus fréquemment les sessions que nous pensons être plus problématiques."

Et ça marche :les chercheurs ont testé leur approche sur des données réelles de Vine, une plate-forme de partage de vidéos aujourd'hui disparue, et Instagram. Han a expliqué que l'équipe a choisi ces réseaux parce qu'ils rendent leurs données accessibles au public.

Dans une recherche présentée lors d'une conférence en avril, le groupe a calculé que leur ensemble d'outils pouvait surveiller le trafic sur Vine et Instagram en temps réel, détecter les comportements de cyberintimidation avec une précision de 70 %. Quoi de plus, l'approche pourrait également envoyer des signaux d'avertissement dans les deux heures suivant le début de l'abus, une performance inégalée par les logiciels actuellement disponibles.

Rahat Ibn Rafiq, un étudiant diplômé du CU Boulder en informatique, est l'auteur principal de la nouvelle étude. Les autres co-auteurs incluent le professeur agrégé CU Boulder Qin (Christine) Lv et Homa Hosseinmardi de l'Université de Californie du Sud.