L'Australie-Méridionale a commencé un essai d'une nouvelle application COVID pour surveiller les arrivées dans l'État. Le Premier ministre de la SA Steven Marshall a déclaré que « chaque Australien du Sud devrait se sentir assez fier que nous soyons le pilote national de l'application de quarantaine à domicile ».

Il a ensuite doublé en se vantant d'être "à peu près sûr que la technologie que nous avons développée au sein du gouvernement de l'Australie-Méridionale deviendra la norme nationale et sera déployée dans tout le pays".

Victoria a également annoncé une mise en quarantaine imminente à domicile « soutenue sur le plan technologique », bien que les détails restent flous. La quarantaine à domicile sera également à terme disponible pour les arrivées internationales, selon le Premier ministre Scott Morrison.

L'application d'Australie du Sud a reçu peu d'attention en Australie, mais aux États-Unis, le magazine de gauche Atlantic l'a qualifié de « aussi orwellien que n'importe quel autre dans le monde libre ». Des médias de droite tels que Fox News et Breitbart se sont également joints à l'attaque, et pour une fois je me trouve d'accord avec eux.

Localisation et reconnaissance faciale

Malgré les affirmations de la SA Premier, ce n'est pas la première application de ce type à être utilisée en Australie. Une application similaire de quarantaine à domicile est déjà utilisée pour les arrivées en WA, et dans certains cas le Territoire du Nord.

Les deux applications utilisent un logiciel de géolocalisation et de reconnaissance faciale pour suivre et identifier les personnes en quarantaine. Les utilisateurs sont tenus de prouver qu'ils sont à la maison lorsqu'ils sont aléatoirement invités par l'application.

En Afrique du Sud, vous avez 15 minutes pour obtenir le logiciel de reconnaissance faciale pour vérifier que vous êtes toujours à la maison. En WA, c'est plus une course. Vous n'avez que 5 minutes avant de risquer que la police frappe à la porte.

Une autre différence est que l'application SA est opt-in. Actuellement. L'application WA est déjà obligatoire pour les arrivées en provenance de zones à haut risque comme Victoria. Pour les zones à risques extrêmes comme NSW, c'est directement dans un hôtel de quarantaine.

Motifs de préoccupation

Mais pourquoi développons-nous de telles applications de quarantaine à domicile en premier lieu, quand on a déjà une technologie bon marché pour faire ça ? Si nous voulons contrôler que les gens sont à la maison (et c'est un gros si ), Est-ce que l'une des balises de cheville déjà utilisées par nos services correctifs pour la détention à domicile ne serait pas beaucoup plus simple, plus sûr et plus robuste ?

Il existe de nombreuses raisons de s'inquiéter des applications de quarantaine à domicile.

D'abord, ils seront probablement beaucoup plus faciles à pirater que les étiquettes de cheville. Combien d'entre nous ont piraté des géoblocages pour accéder à Netflix aux États-Unis, ou pour regarder d'autres contenus numériques d'un autre pays ? Feindre la localisation GPS sur un smartphone n'est pas beaucoup plus difficile.

Seconde, les logiciels de reconnaissance faciale sont souvent défectueux, et est souvent biaisé contre les personnes de couleur et contre les femmes. Le documentaire Coded Bias fait un excellent travail pour démêler ces préjugés.

Malgré des années d'efforts, même les grands géants de la technologie comme Google et Amazon ont été incapables d'éliminer ces biais de leurs logiciels. J'ai peu d'espoir que le gouvernement SA ou la société WA GenVis, les développeurs des deux applications australiennes de quarantaine à domicile, aura mieux fait.

En effet, la Commission australienne des droits de l'homme a appelé à un moratoire sur l'utilisation des logiciels de reconnaissance faciale dans les milieux à haut risque tels que les services de police jusqu'à ce qu'une meilleure réglementation soit en place pour protéger les droits de l'homme et la vie privée.

Troisième, il doit y avoir un débat beaucoup plus détaillé et public sur des questions comme la vie privée, et les garanties mises en place sur la base de cette discussion, avant la technologie utilisée.

Avec les applications d'enregistrement COVID, on nous a promis que les données ne seraient utilisées qu'à des fins de santé publique. Mais les forces de police australiennes ont accédé à ces informations à d'autres fins à au moins six reprises. Cela sape gravement la confiance du public et l'utilisation de ces applications.

Avant son lancement, l'application COVIDSafe du Commonwealth avait mis en place des interdictions législatives sur l'utilisation des données collectées pour autre chose que la recherche des contacts. Cela nous a peut-être donné un faux sentiment de sécurité, car les applications d'enregistrement COVID produites par l'État ne disposaient pas de telles garanties juridiques. Seuls certains États ont introduit rétrospectivement une législation pour fournir de telles protections.

Quatrième, nous devons nous soucier de la façon dont un logiciel comme celui-ci légitime des technologies telles que la reconnaissance faciale qui, en fin de compte, érodent les droits fondamentaux tels que le droit à la vie privée.

Si les applications de quarantaine à domicile fonctionnent correctement, ouvriront-ils la porte à l'utilisation de la reconnaissance faciale dans d'autres contextes ? Pour identifier les vendeurs à l'étalage ? Pour donner accès à l'aide sociale ? Ou à la santé ? Dans quel monde orwellien cela nous mènera-t-il ?

Les dangers de la reconnaissance faciale

En Chine, nous avons déjà vu des logiciels de reconnaissance faciale utilisés pour surveiller et persécuter la minorité ouïghoure. Aux Etats-Unis, au moins trois personnes noires se sont déjà retrouvées à tort en prison en raison d'erreurs de reconnaissance faciale.

La reconnaissance faciale est une technologie dangereuse si elle ne fonctionne pas (comme c'est souvent le cas). Et dangereux si c'est le cas. ça change la vitesse, l'échelle et le coût de la surveillance.

Avec un logiciel de reconnaissance faciale derrière les caméras de vidéosurveillance présentes à de nombreux coins de rue, vous pouvez être suivi 24h/24 et 7j/7. Vous n'êtes plus anonyme lorsque vous sortez dans les magasins. Ou lorsque vous protestez contre l'importance de la vie des Noirs ou l'urgence climatique.

La haute technologie n'est pas la solution

Les logiciels de haute technologie comme la reconnaissance faciale ne sont pas une solution aux problèmes qui ont affecté la réponse de l'Australie à la pandémie. Il ne peut pas remédier au manque d'achat de vaccins, l'absence de construction d'installations de quarantaine dédiées, ou les combats internes et le pointage entre les États et avec le Commonwealth.

Je n'aurais jamais pensé dire ça mais, en tout, Je pense que je préférerais une étiquette à la cheville. Et si l'image du tag cheville vous semble trop troublante, nous pourrions faire ce que Hong Kong a fait et en faire un bracelet.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.