Chaque fois que vous téléchargez une photo ou une vidéo sur une plate-forme de médias sociaux, ses systèmes de reconnaissance faciale en apprennent un peu plus sur vous. Ces algorithmes ingèrent des données sur qui vous êtes, votre emplacement et les personnes que vous connaissez, et elles s'améliorent constamment.

Alors que les préoccupations concernant la confidentialité et la sécurité des données sur les réseaux sociaux augmentent, Des chercheurs de l'U of T Engineering dirigés par le professeur Parham Aarabi et l'étudiant diplômé Avishek Bose ont créé un algorithme pour perturber dynamiquement les systèmes de reconnaissance faciale.

"La vie privée est un vrai problème car la reconnaissance faciale devient de mieux en mieux, " dit Aarabi. "C'est une façon dont les systèmes de reconnaissance anti-faciale bénéfiques peuvent combattre cette capacité."

Leur solution s'appuie sur une technique d'apprentissage en profondeur appelée formation contradictoire, qui oppose deux algorithmes d'intelligence artificielle. Aarabi et Bose ont conçu un ensemble de deux réseaux de neurones :le premier servant à identifier les visages, et le second s'efforçant de perturber la tâche de reconnaissance faciale du premier. Les deux se battent constamment et apprennent l'un de l'autre, la mise en place d'une course aux armements IA en cours.

Le résultat est un filtre de type Instagram qui peut être appliqué aux photos pour protéger la confidentialité. Leur algorithme modifie des pixels très spécifiques dans l'image, faire des changements qui sont presque imperceptibles à l'œil humain.

« L'IA perturbatrice peut « attaquer » ce que recherche le réseau neuronal pour la détection des visages, " dit Bose. " Si l'IA de détection cherche le coin des yeux, par exemple, il ajuste le coin des yeux pour qu'ils soient moins visibles. Cela crée des perturbations très subtiles dans la photo, mais pour le détecteur, ils sont suffisamment importants pour tromper le système. »

Aarabi et Bose ont testé leur système sur l'ensemble de données faciales de 300 W, un pool standard de plus de 600 visages qui comprend un large éventail d'ethnies, les conditions d'éclairage et les environnements. Ils ont montré que leur système pouvait réduire la proportion de visages détectables à l'origine de près de 100 % à 0,5 %.

"La clé ici était d'entraîner les deux réseaux de neurones l'un contre l'autre, l'un créant un système de détection faciale de plus en plus robuste, et l'autre créant un outil toujours plus puissant pour désactiver la détection faciale, " dit Bose, l'auteur principal du projet. L'étude de l'équipe sera publiée et présentée à l'atelier international IEEE 2018 sur le traitement du signal multimédia plus tard cet été.

En plus de désactiver la reconnaissance faciale, la nouvelle technologie perturbe également la recherche basée sur l'image, identification des caractéristiques, estimation des émotions et de l'ethnicité, et tous les autres attributs basés sur les visages qui pourraient être extraits automatiquement.

Prochain, l'équipe espère rendre le filtre de confidentialité accessible au public, soit via une application ou un site Web.

"Il y a dix ans, ces algorithmes devaient être définis par l'homme, mais maintenant, les réseaux de neurones apprennent par eux-mêmes :vous n'avez rien à leur fournir, à part des données d'entraînement, " dit Aarabi. " Au final, ils peuvent faire des choses vraiment incroyables. C'est une période fascinante sur le terrain, il y a un potentiel énorme."