Le service de police du Queensland (QPS) devrait commencer un essai utilisant l'intelligence artificielle (IA) pour déterminer le risque futur posé par les auteurs connus de violence domestique.

Les auteurs identifiés comme « à haut risque » – sur la base d'appels précédents à une adresse, activités criminelles passées et autres données détenues par la police - seront visités à domicile par la police avant que la violence domestique ne dégénère, et avant qu'aucun crime n'ait été commis.

Il est nécessaire de trouver de meilleurs moyens d'améliorer la sécurité des femmes victimes de violence domestique. Cependant, l'utilisation de la technologie de l'IA dans ce contexte peut avoir des conséquences inattendues et le plan proposé soulève de sérieuses questions sur le rôle de la police dans la prévention des incidents de violence domestique.

L'approche repose sur un algorithme qui a été développé à partir des données administratives QPS existantes (QPRIME). Tous les algorithmes statistiques doivent évaluer le risque sur la base des données disponibles, ce qui signifie qu'ils sont aussi bons que les données qui les sous-tendent.

Les experts qui critiquent l'utilisation d'outils d'évaluation des risques basés sur les données dans les services de police soulignent le manque de transparence dans les types spécifiques de données analysées, ainsi que la manière dont les prédictions basées sur ces données sont exécutées.

En raison du fonctionnement de la police, les données clés saisies le plus régulièrement sont des informations sur des situations passées auxquelles la police a été appelée, et les données sur les antécédents criminels.

L'utilisation de ces informations pour former un algorithme d'IA pourrait renforcer les biais existants dans le système de justice pénale. Cela pourrait créer une boucle de rétroaction sans fin entre la police et les membres du public qui ont le plus de contacts avec la police.

En Australie, ce sont des aborigènes et des insulaires du détroit de Torres. Il n'est pas difficile d'imaginer que sous ce nouveau régime, les aborigènes et les insulaires du détroit de Torres seront davantage visités par la police.

Le représentant de QPS, Ben Martain, a déclaré que la police ne serait pas en mesure d'inculper quelqu'un qu'il frappe à la porte pour une future infraction présumée.

Il a également dit pour le pilote, les attributs d'origine ethnique et de localisation géographique ont été supprimés avant d'entraîner le modèle d'IA. Mais malgré cela, il semble probable que les aborigènes et les insulaires du détroit de Torres continueront d'être ciblés de manière disproportionnée, car ils sont surreprésentés dans tous les types de contacts avec la police.

Présentation du risque

L'objectif de ces stratégies policières basées sur l'IA est de prévenir ou de réduire la criminalité, par une évaluation du risque d'infraction future. En théorie, cela signifie que la police interviendrait tôt pour empêcher un crime de se produire en premier lieu.

Cependant, avec cette approche, il y a des risques que la police créer la criminalité. Un coup de porte non sollicité de la police serait malvenu dans la plupart des foyers, sans parler de ceux où la police s'est déjà rendue sur place pour effectuer des perquisitions ou procéder à des arrestations.

Dans ce programme "préventif", les agresseurs et les victimes avec lesquelles ils vivent peuvent être nerveux, agités ou même en colère contre l'intrusion de la police à leur domicile sans raison apparente.

Une personne visitée peut utiliser un langage offensant ou refuser de fournir son nom. Il ne serait pas surprenant que cela conduise à des accusations.

De telles accusations pourraient amener la personne visitée à devenir encore plus nerveuse, agité ou en colère, puis ils peuvent découvrir qu'ils sont accusés de voies de fait et de résistance à la police. Ceci est populairement connu comme le "trifecta", dans lequel une personne qui n'a pas autrement offensé est finalement accusée de langage offensant, résister à l'arrestation et agresser la police.

Les pouvoirs standard dans la boîte à outils de la police sont d'arrêter et d'inculper. Avec le plan proposé par QPS, il y a un risque évident d'élargir le filet de criminalisation pour les deux auteurs, ainsi que les victimes qui peuvent être identifiées à tort comme des auteurs. Par exemple, parfois, les victimes qui ont eu recours à la violence pour se défendre ont été arrêtées à la place de l'agresseur.

Faire encore plus de mal aux victimes

Le rôle de la victime dans un tel programme est également préoccupant. Tout programme qui renforce la surveillance des auteurs renforce également la surveillance des victimes.

Les victimes ne veulent pas toujours que la police intervienne dans leur vie. Dans certains cas, cette forme de police proactive peut sembler être une extension du contrôle, plutôt que d'aider. Que se passe-t-il lorsque la police visite et découvre qu'un agresseur à haut risque et une victime vivent à nouveau ensemble ?

Les victimes peuvent craindre que les autorités de protection de l'enfance ne s'impliquent et se sentent obligées de dissimuler le fait qu'elles sont toujours avec l'agresseur. Et une fois qu'une victime a été obligée de mentir, ils peuvent être réticents à appeler la police la prochaine fois qu'ils ont besoin d'une intervention policière.

Dans certains cas, l'agresseur ou la victime peut décider de ne pas suivre les conseils de sécurité des policiers qui lui rendent visite. Il n'est pas clair ce que la police pourrait faire dans une situation où elle demande à un agresseur de partir, ou essayer de mettre une victime en sécurité, mais ils refusent.

La mission de toute intervention en matière de violence domestique devrait être de redonner du pouvoir aux victimes. Mais nous savons que les interventions n'aident pas toutes les femmes (ou hommes) de la même manière. Inégalités structurelles, y compris la race et la classe, signifient que les interventions sont vécues différemment par différentes personnes.

Une victime aura-t-elle son mot à dire sur la question de savoir si la police s'engage dans une surveillance proactive de son agresseur ? Devraient-ils avoir leur mot à dire ?

Existe-t-il des options plus sûres ?

Dans le cadre de l'évaluation des risques, de nombreux experts affirment que les femmes ont souvent (mais pas toujours) une idée précise du moment où elles courent un risque accru.

Les visites de contact ordonnées par le tribunal de la famille peuvent être l'un de ces moments à haut risque. Pourtant, dans ces situations, les femmes signalent souvent que la police refuse de les aider à assurer leur sécurité et celle de leurs enfants. Comment la voix de la victime est-elle prise en compte dans l'évaluation des risques avec cet outil ?

Une préoccupation particulière est de savoir si la police est vraiment équipée pour intervenir dans des circonstances où il n'y a pas de crime. Le représentant de QPS, Ben Martain, a déclaré que lorsque les agresseurs ne sont « pas en situation de crise, dans un état émotionnel accru, ou affectés par la drogue ou l'alcool" - ils sont "généralement plus disposés à reconnaître cela comme une opportunité décisive dans leur vie".

Mais la police elle-même a remis en question son rôle dans les circonstances de la violence domestique - au lieu de souligner le rôle potentiel que les travailleurs sociaux peuvent avoir, à leur place.

Il n'est pas clair si la police est le service le mieux placé pour intervenir lorsqu'il n'y a pas de troubles identifiés. Le Queensland dispose déjà de protocoles de partage d'informations impliquant des équipes chargées spécifiquement de répondre aux personnes impliquées dans des relations de violence domestique à haut risque. Ces équipes comprennent des travailleurs de soutien communautaires.

Cela peut être une meilleure voie d'intervention pendant ces périodes critiques de calme.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.