Un professeur adjoint d'informatique et d'ingénierie à l'Université du Texas à Arlington a constaté que les candidats à un emploi peuvent améliorer leur position, en moyenne, d'au moins 16 places sur un groupe de 100 candidats en utilisant un algorithme qui utilise des mots-clés spécifiques à l'emploi.

Shirin Nilizadeh a déclaré qu'elle était motivée à poursuivre cette ligne de recherche après avoir vu des amis ne pas être sélectionnés pour des postes ou des entretiens de deuxième tour.

"Nous avons découvert que vous pouvez personnaliser votre CV pour un travail spécifique en utilisant des mots-clés spécifiques qui pourraient vous propulser vers le haut", a-t-elle déclaré. "C'est une sorte de piratage du processus de recrutement."

L'article de Nilizadeh - "Attacks Against Ranking Algorithms with Text Embeddings:A Case Study on Recruitment Algorithms" - a été accepté dans les Actes du quatrième atelier BlackboxNLP sur l'analyse et l'interprétation des réseaux neutres pour la PNL . Anahita Samadi, aujourd'hui doctorante à l'UTA qui a étudié sous Nilizadeh, a dirigé le projet et l'a présenté à la conférence 2021 sur les méthodes empiriques dans le traitement du langage naturel.

Les algorithmes d'intégration de texte utilisés dans le recrutement associent les mots et les phrases des CV à la description de poste pour obtenir des scores de similarité. Les CV sont classés en fonction de ces scores. Jusqu'à présent, peu d'études ont montré que les algorithmes de classement qui utilisent des incorporations de texte sont vulnérables aux attaques adverses.

"Nous pensions que les algorithmes de recrutement étaient le meilleur exemple de tels algorithmes de classement et nous avons donc décidé de travailler dessus", a déclaré Nilizadeh. "Le but de notre attaque était d'identifier les mots-clés de la description de poste qui peuvent améliorer le classement du CV."

Comme prévu, ajouter plus de mots-clés améliore le classement. Cependant, la recherche a également montré que l'ajout d'un trop grand nombre de mots ou d'expressions similaires pouvait ne pas améliorer le classement d'un CV.

L'un des principaux sujets étudiés par Nilizadeh dans le laboratoire de recherche sur la sécurité et la confidentialité de l'UTA est la robustesse contradictoire des systèmes basés sur l'intelligence artificielle (IA) et basés sur les données. En d'autres termes, elle teste les systèmes qui utilisent l'IA contre d'éventuelles attaques et évalue la robustesse de ces systèmes.

Hong Jiang, président et professeur au Département d'informatique et d'ingénierie, a déclaré que les travaux de Nilizadeh étaient prometteurs.

"Ce pourrait être un outil que les employés potentiels et les employeurs pourraient utiliser dans le processus de recherche d'emploi", a déclaré Jiang.