Un après-midi dans notre laboratoire, mon collègue et moi testions notre nouveau prototype de logiciel de reconnaissance faciale sur un ordinateur portable. Le logiciel a utilisé une caméra vidéo pour scanner nos visages et deviner notre âge et notre sexe. Il a correctement deviné mon âge, mais lorsque mon collègue, qui venait d'Afrique, l'a essayé, l'appareil photo n'a pas du tout détecté de visage. Nous avons essayé d'allumer les lumières dans la pièce, ajusté son siège et son arrière-plan, mais le système avait encore du mal à détecter son visage.

Après de nombreuses tentatives infructueuses, le logiciel a finalement détecté son visage, mais s'est trompé d'âge et a donné le mauvais sexe.

Notre logiciel n'était qu'un prototype, mais la difficulté de travailler avec des tons de peau plus foncés reflète les expériences des personnes de couleur qui essaient d'utiliser la technologie de reconnaissance faciale. Ces dernières années, des chercheurs ont démontré l'injustice des systèmes de reconnaissance faciale, constatant que les logiciels et les algorithmes développés par les grandes entreprises technologiques sont plus précis pour reconnaître les tons de peau plus clairs que les plus foncés.

Pourtant, récemment, le Guardian a rapporté que le ministère de l'Intérieur britannique prévoyait de faire en sorte que les migrants reconnus coupables d'infractions pénales scannent leur visage cinq fois par jour à l'aide d'une montre intelligente équipée d'une technologie de reconnaissance faciale. Un porte-parole du ministère de l'Intérieur a déclaré que la technologie de reconnaissance faciale ne serait pas utilisée sur les demandeurs d'asile arrivant illégalement au Royaume-Uni, et que le rapport sur son utilisation sur les délinquants migrants était "purement spéculatif".

Trouvez le bon équilibre

Il y aura toujours une tension entre la sécurité nationale et les droits individuels. La sécurité pour le plus grand nombre peut prendre le pas sur la confidentialité pour quelques-uns. Par exemple, en novembre 2015, lorsque le groupe terroriste ISIS a attaqué Paris, tuant 130 personnes, la police parisienne a trouvé un téléphone que l'un des terroristes avait abandonné sur les lieux et a lu les messages qui y étaient stockés.

Il y a beaucoup de nuances dans ce problème. Nous devons nous demander, quels droits sont limités par une atteinte à la vie privée, dans quelle mesure et qui juge si une atteinte à la vie privée est en équilibre avec la gravité d'une infraction pénale ?

Dans le cas des délinquants prenant des photos de leur visage plusieurs fois par jour, nous pourrions soutenir que la violation de la vie privée est dans l'intérêt de la sécurité nationale pour la plupart des gens, si le crime est grave. Le gouvernement a le droit de prendre une telle décision car il est responsable de la sécurité de ses citoyens. Pour les infractions mineures, cependant, la reconnaissance faciale peut être une mesure trop forte.

Dans son plan, le ministère de l'Intérieur n'a pas fait de distinction entre les délinquants mineurs et graves; il n'a pas non plus fourni de preuves convaincantes que la reconnaissance faciale améliore le respect des lois sur l'immigration.

Dans le monde entier, nous savons que la reconnaissance faciale est plus susceptible d'être utilisée pour surveiller les personnes de couleur en surveillant leurs mouvements plus souvent que ceux des personnes blanches. Ceci malgré le fait que les systèmes de reconnaissance faciale sont plus précis avec des tons de peau plus clairs que plus foncés.

Prendre une photo de votre visage et la télécharger cinq fois par jour peut sembler humiliant. Les pépins avec des tons de peau plus foncés pourraient faire de l'enregistrement dans le système plus qu'une simple expérience frustrante. Il pourrait y avoir de graves conséquences pour les contrevenants si la technologie tombe en panne.

Les failles de la reconnaissance faciale pourraient également créer des problèmes de sécurité nationale pour le gouvernement. Par exemple, il peut identifier à tort le visage d'une personne comme celui d'une autre. La technologie de reconnaissance faciale n'est pas prête pour quelque chose d'aussi important que la sécurité nationale.

L'alternative

Une autre option que le gouvernement envisage pour les délinquants migrants est le suivi de la localisation. La surveillance électronique permet déjà de suivre les personnes ayant un casier judiciaire au Royaume-Uni à l'aide d'étiquettes de cheville, et il serait logique d'appliquer la même technologie aux délinquants migrants et non migrants de la même manière.

Le suivi de la localisation comporte ses propres problèmes éthiques pour la confidentialité personnelle et la surveillance raciale. En raison de la nature intrusive de la surveillance électronique, certaines personnes qui portent ces appareils peuvent souffrir de dépression, d'anxiété ou de pensées suicidaires.

Mais la technologie de suivi de localisation offre au moins des options. Par exemple, les données peuvent être traitées avec sensibilité en suivant les directives de confidentialité des données telles que la loi britannique sur la protection des données 2018. Nous pouvons minimiser la quantité de données de localisation que nous collectons en ne suivant la position d'une personne qu'une ou deux fois par jour. Nous pouvons anonymiser les données, en ne rendant visibles les noms des personnes que lorsque cela est nécessaire.

Le ministère de l'Intérieur du Royaume-Uni pourrait utiliser les données de localisation pour signaler une activité suspecte, par exemple si un délinquant pénètre dans une zone dont il a été interdit. Pour les contrevenants mineurs, nous n'avons pas besoin de suivre l'emplacement exact de la personne, mais seulement la zone générale, comme un code postal ou une ville.

En tant que société, nous devons nous efforcer de préserver la dignité et l'intimité des personnes, sauf dans les cas les plus graves. Plus important encore, nous devons nous assurer que la technologie n'a pas le potentiel de discriminer un groupe de personnes en raison de leur appartenance ethnique. La loi et la réglementation doivent s'appliquer de la même manière à tous.

Le porte-parole du ministère de l'Intérieur a ajouté :« Le public s'attend à ce que nous surveillions les délinquants étrangers condamnés… Les criminels étrangers ne devraient avoir aucun doute sur notre détermination à les expulser, et le gouvernement fait tout son possible pour augmenter le nombre de délinquants étrangers expulsés. " + Explorer plus loin

La reconnaissance faciale a été essentielle pour identifier le suspect de la fusillade aux États-Unis

Cet article est republié de The Conversation sous une licence Creative Commons. Lire l'article d'origine.