La technologie de reconnaissance faciale se répand rapidement. Déjà répandu en Chine, un logiciel qui identifie les personnes en comparant des images de leurs visages à une base de données d'enregistrements est maintenant adopté dans une grande partie du reste du monde. Il est courant parmi les forces de police, mais a également été utilisé dans les aéroports, gares et centres commerciaux.

La croissance rapide de cette technologie a déclenché un débat bien nécessaire. Activistes, Les politiciens, des universitaires et même des forces de police expriment de sérieuses inquiétudes quant à l'impact que la reconnaissance faciale pourrait avoir sur une culture politique fondée sur les droits et la démocratie.

Préoccupations relatives aux droits de l'homme

En tant que personne qui étudie l'avenir des droits de l'homme, Je partage ces inquiétudes. Voici dix raisons pour lesquelles nous devrions nous inquiéter de l'utilisation de la technologie de reconnaissance faciale dans les espaces publics.

(1) Il nous met sur la voie d'une surveillance globale automatisée

La vidéosurveillance est déjà répandue dans le monde, mais pour que les gouvernements utilisent des images contre vous, ils doivent trouver des clips spécifiques de vous en train de faire quelque chose qu'ils peuvent revendiquer comme preuve. La technologie de reconnaissance faciale amène la surveillance à de nouveaux niveaux. Il permet la surveillance en direct automatisée et sans discernement des personnes dans leurs activités quotidiennes, donner aux autorités la possibilité de suivre chacun de vos mouvements.

(2) Il fonctionne sans cadre juridique ou réglementaire clair

La plupart des pays n'ont pas de législation spécifique qui réglemente l'utilisation de la technologie de reconnaissance faciale, bien que certains législateurs essaient de changer cela. Ce vide juridique ouvre la porte aux abus, comme obtenir nos images à notre insu ou sans notre consentement et les utiliser d'une manière que nous n'approuverions pas.

(3) Il viole les principes de nécessité et de proportionnalité

Un principe des droits de l'homme communément énoncé, reconnu par des organisations de l'ONU au London Policing Ethics Panel, est que la surveillance doit être nécessaire et proportionnée. Cela signifie que la surveillance devrait être limitée à la poursuite de crimes graves au lieu de permettre une ingérence injustifiée dans notre liberté et nos droits fondamentaux. La technologie de reconnaissance faciale est en contradiction avec ces principes. C'est une technologie de contrôle qui est symptomatique de la méfiance de l'État envers ses citoyens.

(4) Cela viole notre droit à la vie privée

Le droit à la vie privée est important, même dans les espaces publics. Il protège l'expression de notre identité sans intrusion intempestive de l'État ou des entreprises privées. L'enregistrement aveugle et à grande échelle de la technologie de reconnaissance faciale, le stockage et l'analyse de nos images portent atteinte à ce droit car cela signifie que nous ne pouvons plus rien faire en public sans que l'État le sache.

(5) Cela a un effet dissuasif sur notre culture politique démocratique

La surveillance générale peut dissuader les individus d'assister à des événements publics. Cela peut étouffer la participation aux manifestations politiques et aux campagnes pour le changement. Et cela peut décourager les comportements non-conformistes. Cet effet dissuasif est une grave atteinte au droit à la liberté de réunion, association, et expression.

(6) Il refuse aux citoyens la possibilité de donner leur consentement

Il y a un manque d'informations détaillées et spécifiques sur la façon dont la reconnaissance faciale est réellement utilisée. Cela signifie que nous n'avons pas la possibilité de consentir à l'enregistrement, analyser et stocker nos images dans des bases de données. En nous refusant la possibilité de consentir, on nous refuse le choix et le contrôle sur l'utilisation de nos propres images.

(7) Il est souvent inexact

La technologie de reconnaissance faciale promet une identification précise. Mais de nombreuses études ont mis en évidence comment les algorithmes formés sur des ensembles de données biaisés racialement identifient mal les personnes de couleur, surtout les femmes de couleur. Un tel biais algorithmique est particulièrement préoccupant s'il aboutit à des arrestations illégales, ou si elle conduit les agences publiques et les entreprises privées à discriminer les femmes et les personnes issues de minorités ethniques.

(8) Cela peut conduire à un biais d'automatisation

Si les personnes utilisant un logiciel de reconnaissance faciale croient à tort que la technologie est infaillible, cela peut conduire à de mauvaises décisions. Ce « biais d'automatisation » doit être évité. Les résultats générés par la machine ne devraient pas déterminer comment les agences d'État ou les sociétés privées traitent les individus. Les opérateurs humains formés doivent exercer un contrôle significatif et prendre des décisions fondées sur la loi.

(9) Cela implique qu'il existe des listes de surveillance secrètes du gouvernement

Les bases de données qui contiennent nos images faciales devraient sonner l'alarme. Ils impliquent que des entreprises privées et des organismes chargés de l'application de la loi partagent nos images pour créer des listes de surveillance de suspects potentiels à notre insu ou sans notre consentement. C'est une grave menace pour nos droits individuels et nos libertés civiles. La sécurité de ces bases de données, et leur vulnérabilité aux actions des pirates, est également préoccupante.

(10) Il peut être utilisé pour cibler des groupes déjà vulnérables

La technologie de reconnaissance faciale peut être utilisée pour une surveillance globale. Mais il peut aussi être déployé de manière sélective, par exemple pour identifier les migrants et les réfugiés. La vente de logiciels de reconnaissance faciale à des agences telles que la controversée US Immigration and Customs Enforcement (ICE), qui a été fortement critiquée pour ses tactiques face aux migrants, devrait inquiéter quiconque se soucie des droits de l'homme. Et l'utilisation d'appareils mobiles portables avec une application de reconnaissance faciale par les forces de police soulève le spectre d'un profilage racial amélioré au niveau de la rue.

Le débat fait cruellement défaut

Avec tant de préoccupations concernant la technologie de reconnaissance faciale, nous avons désespérément besoin d'une conversation plus importante sur son impact sur nos droits et libertés civiles. Sans une régulation appropriée de ces systèmes, nous risquons de créer des États policiers dystopiques dans ce qui était autrefois libre, pays démocratiques.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.