Une vidéo de policiers en tenue anti-émeute affrontant des manifestants non armés à la suite du meurtre de George Floyd par le policier de Minneapolis Derek Chauvin a rempli les flux de médias sociaux. Pendant ce temps, la surveillance policière des manifestants est restée largement hors de vue.

Local, les organisations d'application de la loi fédérales et étatiques utilisent un éventail de technologies de surveillance pour identifier et suivre les manifestants, de la reconnaissance faciale aux drones de qualité militaire.

L'utilisation par la police de ces techniques de surveillance de type sécurité nationale, justifiées en tant que techniques rentables qui évitent les préjugés et les erreurs humaines, s'est développée parallèlement à la militarisation accrue des forces de l'ordre. Des recherches approfondies, y compris le mien, a montré que ces capacités de surveillance étendues et puissantes ont exacerbé plutôt que réduit les biais, portée excessive et abus dans les services de police, et ils constituent une menace croissante pour les libertés civiles.

Les efforts de réforme de la police portent de plus en plus sur l'utilisation des technologies de surveillance par les organismes chargés de l'application de la loi. Dans le sillage des troubles actuels, IBM, Amazon et Microsoft ont mis un frein à l'utilisation par la police de la technologie de reconnaissance faciale des entreprises. Et les projets de loi sur la réforme de la police soumis par les démocrates à la Chambre des représentants des États-Unis appellent à réglementer l'utilisation par la police des systèmes de reconnaissance faciale.

Une décennie de big data police

Nous n'avons pas toujours vécu dans un monde de caméras de police, capteurs intelligents et analyse prédictive. La récession et la rage ont alimenté la montée initiale des technologies de police des mégadonnées. En 2009, face au fédéral, les coupes budgétaires étatiques et locales causées par la Grande Récession, les services de police ont commencé à chercher des moyens de faire plus avec moins. Les entreprises technologiques se sont précipitées pour combler les lacunes, offrant de nouvelles formes de police axée sur les données comme modèles d'efficacité et de réduction des coûts.

Puis, en 2014, le meurtre par la police de Michael Brown à Ferguson, Missouri, bouleversé les relations policières et communautaires déjà effilochées. Les meurtres de Michael Brown, Eric Garner, Philando Castille, Riz Tamir, Walter Scott, Sandra Bland, Freddie Gray et George Floyd ont tous déclenché des manifestations à l'échelle nationale et des appels à la justice raciale et à la réforme de la police. Le maintien de l'ordre a été conduit en mode de crise alors que l'indignation de la communauté menaçait de délégitimer la structure de pouvoir de la police existante.

En réponse à la double menace des pressions sur les coûts et des critiques de la communauté, les services de police ont en outre adopté des entreprises technologiques en démarrage vendant des économies de données volumineuses et l'espoir que quelque chose « contrôlé par les données » permettrait aux communautés d'aller au-delà des problèmes trop humains de la police. L'analyse prédictive et les capacités vidéo de caméra corporelle ont été vendues comme des solutions objectives aux préjugés raciaux. Dans une large mesure, la stratégie de relations publiques a fonctionné, qui a permis aux forces de l'ordre d'adopter une police prédictive et une surveillance numérique accrue.

Aujourd'hui, au milieu d'un regain d'indignation contre le racisme structurel et la brutalité policière, et dans l'ombre d'une récession économique encore plus profonde, les organismes chargés de l'application de la loi sont confrontés à la même tentation d'adopter une solution technologique aux problèmes de société profonds. Les chefs de police voudront probablement tourner la page des niveaux actuels de colère et de méfiance de la communauté.

Les dangers de la surveillance high-tech

Au lieu de répéter les erreurs des 12 dernières années, les communautés ont la possibilité de rejeter l'expansion de la police des mégadonnées. Les dangers n'ont fait qu'augmenter, les méfaits mis en évidence par l'expérience.

Ces petites entreprises en démarrage qui se sont initialement précipitées dans le secteur de la police ont été remplacées par de grandes entreprises technologiques aux poches profondes et aux grandes ambitions.

Axon a capitalisé sur les demandes de responsabilité de la police après les manifestations à Ferguson et Baltimore pour devenir une entreprise de plusieurs millions de dollars fournissant des services numériques pour les caméras corporelles portées par la police. Amazon a développé des partenariats avec des centaines de services de police via ses caméras Ring et son application Neighbours. D'autres sociétés comme BriefCam, Palantir et Shotspotter proposent une multitude d'analyses vidéo, l'analyse des réseaux sociaux et d'autres technologies de capteurs avec la possibilité de vendre la technologie à moindre coût à court terme dans l'espoir d'un avantage commercial à long terme.

La technologie elle-même est plus puissante. Les modèles algorithmiques créés il y a une décennie sont pâles par rapport aux capacités d'apprentissage automatique d'aujourd'hui. Les flux de caméras vidéo ont été numérisés et augmentés avec des capacités d'analyse et de reconnaissance faciale, transformer la surveillance statique en une machine à remonter le temps virtuelle pour trouver des modèles dans les foules. Les smartphones s'ajoutent au piège des données, maisons intelligentes et voitures intelligentes, qui permettent désormais à la police de découvrir les traces numériques des individus avec une relative facilité.

La technologie est plus interconnectée. L'un des facteurs limitatifs naturels de la technologie de police des mégadonnées de première génération était le fait qu'elle restait en silo. Les bases de données ne pouvaient pas communiquer entre elles. Les données ne pouvaient pas être facilement partagées. Ce facteur limitatif a diminué à mesure que des systèmes de données plus agrégés ont été développés au sein du gouvernement et par des fournisseurs privés.

La promesse d'objectif, la technologie impartiale n'a pas fonctionné. Le biais racial dans la police n'a pas été corrigé en allumant une caméra. Au lieu de cela, la technologie a créé de nouveaux problèmes, notamment en soulignant le manque de responsabilité pour les cas très médiatisés de violence policière.

Leçons pour maîtriser l'espionnage policier

Les méfaits de la police des mégadonnées ont été exposés à plusieurs reprises. Les programmes qui tentaient de prédire les comportements des individus à Chicago et à Los Angeles ont été fermés après que des audits dévastateurs aient répertorié leur impact discriminatoire et leur échec pratique. Les systèmes prédictifs basés sur le lieu ont été fermés à Los Angeles et dans d'autres villes qui avaient initialement adopté la technologie. Scandales impliquant la reconnaissance faciale, la technologie d'analyse des réseaux sociaux et la surveillance par capteurs à grande échelle servent d'avertissement que la technologie ne peut pas résoudre les problèmes plus profonds de la race, le pouvoir et la confidentialité qui sont au cœur de la police moderne.

La leçon de la première ère de la police des mégadonnées est que les problèmes de race, la transparence et les droits constitutionnels doivent être au premier plan de la conception, réglementation et utilisation. Chaque erreur peut être attribuée à une incapacité à voir comment la technologie de surveillance s'intègre dans le contexte du pouvoir policier moderne, un contexte qui inclut des problèmes de longue date de racisme et de contrôle social. Chaque solution vise à remédier à ce déséquilibre de pouvoir en amont, par la surveillance locale, engagement communautaire et droit fédéral, pas après l'adoption de la technologie.

Les débats sur le defunding, la démilitarisation et la réinvention des pratiques d'application de la loi existantes doivent inclure une discussion sur la surveillance policière. Il y a une décennie de faux pas à apprendre et de défis déterminants pour la vie privée et la justice raciale à venir. La façon dont les services de police répondent à l'appel de la sirène de la surveillance des mégadonnées révélera s'ils sont sur le point de répéter les mêmes erreurs.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.