Dans une première mondiale, Des chercheurs de l'Université de Melbourne ont conçu un système d'intelligence artificielle (IA) pour détecter et afficher les traits de personnalité et l'attractivité physique des personnes en se basant uniquement sur une photo de leur visage.

Le système, appelé miroir biométrique, étudie la compréhension d'une personne de l'IA et sa réponse aux informations sur ses caractéristiques uniques.

Quand quelqu'un se tient devant le miroir biométrique, le système détecte une gamme de caractéristiques faciales en quelques secondes. Il compare ensuite les données de l'utilisateur à celles de milliers de photos de visage, qui ont été évalués pour leur psychométrie par un groupe d'intervenants participatifs.

Le miroir biométrique affiche 14 caractéristiques, du genre, l'âge et l'origine ethnique à l'attractivité, étrangeté et stabilité émotionnelle. Plus une personne reste là, plus les traits deviennent personnels.

Le projet de recherche, dirigé par le Dr Niels Wouters du Center for Social Natural User Interfaces (SocialNUI) et Science Gallery Melbourne, explore les préoccupations que cette technologie soulève autour du consentement, stockage de données et biais algorithmique.

"Avec l'essor de l'IA et du big data, le gouvernement et les entreprises utiliseront de plus en plus les caméras de vidéosurveillance et la publicité interactive pour détecter les émotions, âge, le genre et la démographie des passants, " a déclaré le Dr Wouters.

"Notre étude vise à susciter des questions difficiles sur les limites de l'IA. Elle montre aux utilisateurs à quel point il est facile de mettre en œuvre une IA qui discrimine de manière contraire à l'éthique ou problématique, ce qui pourrait avoir des conséquences sociétales. En encourageant le débat sur la confidentialité et la surveillance de masse, nous espérons contribuer à une meilleure compréhension de l'éthique derrière l'IA."

Biometric Mirror met en évidence les conséquences potentielles dans le monde réel des biais et hypothèses algorithmiques.

« Bien que la collecte d'informations personnelles sur vos préférences d'achat pour personnaliser un service individuel puisse sembler inoffensive, la capture de ces informations sans consentement rend impossible de savoir si une prédiction est basée sur des données correctes, " a déclaré le Dr Wouters.

"L'utilisation de l'IA est une pente glissante qui s'étend au-delà du domaine du shopping et de la publicité. Imaginez n'avoir aucun contrôle sur un algorithme qui vous considère à tort inapte à des postes de direction, inéligible aux diplômes universitaires, ou partage votre photo publiquement sans votre consentement.

"L'un de vos traits est choisi - disons, votre niveau de responsabilité - et Biometric Mirror vous demande d'imaginer que cette information est maintenant partagée avec votre assureur ou futur employeur, " a déclaré le Dr Wouters. " Ce projet est une démonstration transparente des conséquences potentielles pour les individus. "

Le Dr Wouters a déclaré qu'il était important de noter que le miroir biométrique n'est pas un outil d'analyse psychologique.

"Biometric Mirror ne calcule que la perception publique estimée de l'apparence du visage, " il a dit.

"Il est limité par son inexactitude, car seul un ensemble de données relativement petit et issu de la foule a informé sa conception. Il est inapproprié de tirer des conclusions significatives sur les états psychologiques à partir du miroir biométrique."