Les critiques ne manquent pas concernant l'utilisation de l'IA dans les processus décisionnels publics. Les chercheurs, par exemple, ont décrit les algorithmes comme un "cocktail toxique pour la démocratie" en soulignant la disponibilité toujours croissante de mégadonnées qui peuvent être manipulées pour influencer le discours public dans des directions spécifiques (problématiques). Pouvons-nous renverser l'argument et plaider en faveur de l'exploitation du potentiel des technologies numériques pour améliorer la qualité de la démocratie en ces temps de populisme rampant ? Nous pouvons en fait recourir à des théories démocratiques qui s'appuient uniquement sur des cadres d'entrée pour englober la dimension complexe des processus politiques et de l'élaboration des politiques.

Essayons de fournir une classification non exhaustive en examinant les étapes de l'élaboration des politiques et des procédures de prise de décision. Dans le cadre de la décision publique, les algorithmes peuvent fonctionner de plusieurs manières. L'IA peut :a) représenter le monde, par exemple en utilisant des données démographiques; b) prédire ou tester l'opportunité d'un plan d'action donné à la lumière des résultats que ce dernier peut déterminer, comme l'évaluation des risques liés à la détention d'immigrants ; c) prendre une décision, généralement sur la base de la fiabilité inhérente du résultat et/ou de l'efficacité du processus, par exemple en sélectionnant des personnes qui bénéficieront d'une décision d'attribution prise dans le cadre du processus politique traditionnel ; et d) agir en tant que gestionnaire d'algorithmes en supervisant et en contrôlant les fonctionnaires qui doivent prendre des décisions complexes.

Dans chacun de ces scénarios, les algorithmes jouent des rôles différents. Les fonctions de représentation et de prédiction impliquent que les algorithmes peuvent fournir aux décideurs des informations précises sur une option politique donnée. Par conséquent, les algorithmes ne remplacent pas les choix politiques, mais créent plutôt les conditions pour qu'une alternative politique soit confrontée à des résultats concrets. La fonction de sélection utilise des algorithmes pour accélérer les procédures qui, autrement, nécessiteraient un examen minutieux et long. Des algorithmes peuvent ainsi assurer l'efficacité du processus de sélection et la cohérence des résultats. Dans les scénarios décrits ci-dessus aux points c) et d), l'algorithme prend des décisions à la place du décideur identifié via le processus politique ordinaire.

Dans ce contexte, la prise de décision algorithmique n'est adaptée à aucune de ces tâches si elle est censée prendre des décisions de fond de manière indépendante. En revanche, l'IA peut dynamiser les processus démocratiques si certaines conditions de son bon fonctionnement sont respectées. En particulier, en décortiquant la logique de la légitimité démocratique, nous pouvons conclure que l'IA doit être couplée à la nécessité de 1) comprendre et sélectionner les questions civiques qui méritent d'être traitées par les institutions politiques ; 2) contrôler quelles questions parviennent aux institutions démocratiques; 3) évaluer et contester les résultats d'un cours donné d'une décision prise par ou à cause d'une IA. En d'autres termes, les algorithmes peuvent accroître la légitimité démocratique en période de populisme rampant, à condition que leur utilisation se fasse dans un cadre qui maximise l'égalité politique et la prise de décision rationnelle en permettant une participation plus large, la prise en compte de divers problèmes sociaux et le contrôle des décisions prises.

Dans ces conditions, l'efficacité et la représentation de la réalité qu'un processus algorithmique peut produire exposent les sophismes ou la « vérité facile » de la rhétorique populiste. La prise de décision algorithmique n'est pas bonne car le résultat est intrinsèquement fiable. Elle est bonne tant qu'elle s'inscrit dans un cadre démocratique qui permet à la fois aux représentés et aux représentants d'exercer des choix et de contrôler le processus décisionnel. De cette façon, les algorithmes peuvent exposer la rhétorique populiste en étant un instrument de connaissance et, par conséquent, un outil pour lire la réalité et aider à résoudre ses problèmes. + Explorer plus loin

Selon une nouvelle analyse, prédire la race des patients peut améliorer l'équité dans la prestation des soins de santé