Le visage humain est spécial. Elle est à la fois publique et personnelle. Nos visages révèlent des informations sensibles sur nous :qui nous sommes, bien sûr, mais aussi notre sexe, nos émotions, notre état de santé, etc.

Les législateurs australiens, comme ceux du monde entier, n'avaient jamais prévu que nos données faciales seraient récoltées à l'échelle industrielle, puis utilisées dans tout, de nos smartphones aux caméras de vidéosurveillance de la police. Nous ne devrions donc pas être surpris que nos lois n'aient pas suivi le rythme de l'essor extraordinaire de la technologie de reconnaissance faciale.

Mais de quel type de lois avons-nous besoin ? La technologie peut être utilisée à la fois pour le bien et pour le mal, donc ni l'interdire ni le libre pour tous actuel ne semblent idéaux.

Cependant, l'échec de la réglementation a rendu notre communauté vulnérable aux utilisations nocives de la reconnaissance faciale. Pour combler le vide juridique, nous proposons une "loi type" :un aperçu de la législation que les gouvernements de toute l'Australie pourraient adopter ou adapter pour réglementer les utilisations à risque de la reconnaissance faciale tout en autorisant celles qui sont sûres.

Le défi des technologies de reconnaissance faciale

Les cas d'utilisation des technologies de reconnaissance faciale ne semblent limités que par notre imagination. Beaucoup d'entre nous n'hésitent pas à utiliser la reconnaissance faciale pour déverrouiller nos appareils électroniques. Pourtant, la technologie a également été testée ou mise en œuvre dans toute l'Australie dans un large éventail de situations, y compris les écoles, les aéroports, les magasins de détail, les clubs et les lieux de jeu, et les forces de l'ordre.

Alors que l'utilisation de la reconnaissance faciale augmente d'environ 20 % par an, le risque pour les humains augmente également, en particulier dans les contextes à haut risque comme les services de police.

Aux États-Unis, le recours à une technologie de reconnaissance faciale sujette aux erreurs a entraîné de nombreux cas d'injustice, en particulier impliquant des Noirs. Il s'agit notamment de l'arrestation et de la détention injustifiées de Robert Williams, et de l'exclusion injustifiée d'une jeune fille noire d'une patinoire à roulettes à Detroit.

Bon nombre des plus grandes entreprises technologiques du monde, dont Meta, Amazon et Microsoft, ont réduit ou interrompu leurs services liés à la reconnaissance faciale. Ils ont évoqué des préoccupations concernant la sécurité des consommateurs et l'absence de réglementation efficace.

C'est louable, mais cela a également provoqué une sorte d'« échec réglementaire du marché ». Alors que ces entreprises ont reculé, d'autres entreprises moins scrupuleuses ont pris une plus grande part du marché de la reconnaissance faciale.

Prenez la société américaine Clearview AI. Il a récupéré des milliards d'images de visages sur les réseaux sociaux et d'autres sites Web sans le consentement des personnes concernées, puis a créé un service de reconnaissance faciale qu'il a vendu à la police fédérale australienne et à d'autres organismes chargés de l'application des lois dans le monde.

En 2021, le commissaire australien à l'information et à la vie privée a constaté que Clearview AI et l'AFP avaient enfreint la loi australienne sur la protection de la vie privée, mais les mesures d'application de ce type sont rares.

Cependant, les Australiens souhaitent une meilleure régulation de la reconnaissance faciale. Cela a été démontré dans le rapport 2021 de la Commission australienne des droits de l'homme, l'enquête CHOICE 2022 sur l'utilisation de la technologie de reconnaissance faciale par les principaux détaillants et dans les recherches que nous avons commandées au Human Technology Institute dans le cadre de notre loi type.

Options pour la réforme de la reconnaissance faciale

Quelles options l'Australie a-t-elle? La première est de ne rien faire. Mais cela reviendrait à accepter que nous ne serons pas protégés contre l'utilisation nuisible des technologies de reconnaissance faciale et à nous maintenir sur notre trajectoire actuelle vers la surveillance de masse.

Une autre option serait d'interdire complètement la technologie de reconnaissance faciale. Certaines juridictions ont en effet institué des moratoires sur la technologie, mais ils contiennent de nombreuses exceptions (pour des usages positifs), et sont au mieux une solution temporaire.

À notre avis, la meilleure option de réforme est une loi réglementant les technologies de reconnaissance faciale en fonction de leur degré de risque. Une telle loi encouragerait la reconnaissance faciale avec un intérêt public évident, tout en protégeant contre les utilisations nuisibles de la technologie.

Une loi basée sur les risques pour la réglementation des technologies de reconnaissance faciale

Notre loi type obligerait toute personne développant ou déployant des systèmes de reconnaissance faciale en Australie à mener une étude d'impact rigoureuse pour évaluer le risque pour les droits de l'homme.

À mesure que le niveau de risque augmente, les exigences ou restrictions légales augmentent également. Les développeurs seraient également tenus de se conformer à une norme technique pour la reconnaissance faciale, alignée sur les normes internationales de performance de l'IA et de bonne gestion des données.

La loi type contient une interdiction générale des utilisations à haut risque des applications de reconnaissance faciale. Par exemple, une application « d'analyse faciale » censée évaluer l'orientation sexuelle des individus et ensuite prendre des décisions à leur sujet serait interdite. (Malheureusement, ce n'est pas une hypothèse farfelue.)

La loi type prévoit également trois exceptions à l'interdiction des technologies de reconnaissance faciale à haut risque :

1. l'organisme de réglementation pourrait autoriser une demande à haut risque s'il considère que la demande est justifiée au regard du droit international des droits de l'homme
2. il y aurait un régime juridique spécifique pour les forces de l'ordre, y compris un système de "mandat facial" qui fournirait une surveillance indépendante comme avec d'autres mandats de ce type
3. Les applications à haut risque peuvent être utilisées dans la recherche universitaire, sous la supervision appropriée.

Examen par l'organisme de réglementation et les personnes concernées

Toute loi devrait être appliquée par un organisme de réglementation doté de pouvoirs et de ressources appropriés. Qui cela devrait-il être ?

La majorité des parties prenantes que nous avons consultées, y compris les utilisateurs commerciaux, les entreprises technologiques et les représentants de la société civile, ont proposé que le Bureau du commissaire à l'information australien (OAIC) ​​serait bien adapté pour être le régulateur de la réglementation faciale. Pour certains utilisateurs sensibles, tels que les militaires et certaines agences de sécurité, il peut également être nécessaire de mettre en place un régime de surveillance spécialisé.

Le moment de la réforme est maintenant

Jamais nous n'avons vu autant de groupes et d'individus de la société civile, de l'industrie et du gouvernement si engagés et alignés sur la nécessité d'une réforme de la technologie de reconnaissance faciale. Cela se reflète dans le soutien à la loi type du Technology Council of Australia et de CHOICE.

Compte tenu de l'essor extraordinaire des utilisations de la reconnaissance faciale et d'un consensus émergent parmi les parties prenantes, le procureur général fédéral devrait saisir ce moment et mener une réforme nationale. La première priorité est de présenter un projet de loi fédéral, qui pourrait facilement s'inspirer de notre loi type. Le procureur général devrait également collaborer avec les États et territoires pour harmoniser la loi australienne sur la reconnaissance faciale.

Cette proposition de réforme est importante en soi :nous ne pouvons pas permettre que les technologies de reconnaissance faciale restent effectivement non réglementées. Cela démontrerait également comment l'Australie peut utiliser la loi pour se protéger contre les utilisations nocives des nouvelles technologies, tout en encourageant simultanément l'innovation dans l'intérêt du public.

Vous trouverez plus d'informations sur la loi type dans notre rapport « Technologie de reconnaissance faciale :vers une loi type ». + Explorer plus loin

Un nouveau rapport propose un plan pour la réglementation de la technologie de reconnaissance faciale

Cet article est republié de The Conversation sous une licence Creative Commons. Lire l'article d'origine.