Alors que la police prédictive vise à améliorer l'efficacité des patrouilles de police, on craint que ces algorithmes puissent conduire la police à cibler les communautés minoritaires et entraîner des arrestations discriminatoires. Un informaticien de la School of Science de l'IUPUI a mené la première étude pour examiner les données de terrain en temps réel de Los Angeles et a découvert que la police prédictive n'a pas entraîné d'arrestations biaisées.

« La police prédictive est encore un domaine relativement nouveau. Il y a eu plusieurs essais sur le terrain de la police prédictive où la réduction du taux de criminalité a été mesurée, mais il n'y a pas eu d'essais empiriques sur le terrain à ce jour pour déterminer si ces algorithmes, lorsqu'il est déployé, cibler certains groupes raciaux plus que d'autres et conduire à des interpellations ou des arrestations biaisées, " a déclaré George Mohler, professeur agrégé d'informatique et de sciences de l'information à l'École des sciences de l'IUPUI.

Mohler, avec des chercheurs de l'UCLA et de la Louisiana State University, a travaillé avec le service de police de Los Angeles pour mener l'étude expérimentale. Un analyste humain a fait des prédictions sur l'endroit où les agents patrouilleraient chaque jour, et un algorithme a également fait un ensemble de prédictions; il a ensuite été choisi au hasard quel ensemble était utilisé par les agents sur le terrain chaque jour.

Les chercheurs ont mesuré la différence des taux d'arrestation par groupe ethnique entre l'algorithme de police prédictive et les cartes des points chauds créées par les analystes du LAPD qui étaient utilisées avant l'expérience.

« Quand nous avons examiné les données, les différences dans les taux d'arrestation par groupe ethnique entre les pratiques policières prédictives et les pratiques de patrouille standard n'étaient pas statistiquement significatives, " a déclaré Mohler.

L'étude a examiné les données à la fois au niveau du district et dans les zones de patrouille des agents du LAPD et a constaté qu'il n'y avait pas de différence statistiquement significative entre les taux d'arrestation par groupe ethnique à l'un ou l'autre niveau géographique. Finalement, les chercheurs ont examiné les taux d'arrestation dans l'ensemble dans les zones de patrouille et ont constaté qu'ils étaient statistiquement plus élevés dans les zones sélectionnées par algorithme, mais après ajustement pour le taux de criminalité plus élevé dans ces régions, les arrestations étaient inférieures ou inchangées. "Le taux de criminalité plus élevé, et un taux d'arrestation proportionnellement plus élevé, est ce à quoi vous vous attendriez puisque l'algorithme est conçu pour identifier les zones avec des taux de criminalité élevés, " a déclaré Mohler.

Mohler a déclaré que dans le domaine en développement de la police prédictive, des enseignements continuent d'être tirés de chaque étude et mise en œuvre. Une récente étude de simulation de la police prédictive avec des données d'arrestation pour drogue d'Oakland, Californie, ont montré qu'il existe un potentiel de biais lorsque ces algorithmes sont appliqués dans certains contextes. Mohler espère que l'étude de Los Angeles est un point de départ pour mesurer le biais de la police prédictive dans les futures expériences sur le terrain.

« Chaque fois que vous effectuez l'un de ces déploiements de police prédictive, les départements devraient surveiller l'impact ethnique de ces algorithmes pour vérifier s'il y a des préjugés raciaux, " Mohler a déclaré. "Je pense que les méthodes statistiques que nous fournissons dans cet article fournissent un cadre pour surveiller cela."

« La police prédictive mène-t-elle à des arrestations biaisées ? Résultats d'un essai contrôlé randomisé ? » est publié dans la revue Statistiques et politiques publiques .