L'utilisation d'algorithmes au gouvernement transforme la façon dont les bureaucrates travaillent et prennent des décisions dans différents domaines, comme les soins de santé ou la justice pénale. Les experts abordent les défis de transparence liés à l'utilisation d'algorithmes dans les procédures de prise de décision au niveau macro, méso-, et micro-niveaux dans ce numéro spécial de Politique d'information .

Les algorithmes d'apprentissage automatique ont un énorme potentiel pour rendre les services gouvernementaux plus justes et plus efficaces et ont le potentiel de « libérer » la prise de décision de la subjectivité humaine, selon des recherches récentes. Les algorithmes sont utilisés dans de nombreux contextes de service public. Par exemple, au sein du système judiciaire, il a été démontré que les algorithmes peuvent mieux prédire la récidive que les juges des tribunaux pénaux. À la fois, les critiques mettent en évidence plusieurs dangers de la prise de décision algorithmique, comme les préjugés raciaux et le manque de transparence.

Certains chercheurs ont soutenu que l'introduction d'algorithmes dans les procédures de prise de décision peut provoquer de profonds changements dans la façon dont les bureaucrates prennent des décisions et que les algorithmes peuvent affecter des routines et des structures organisationnelles plus larges. Ce numéro spécial sur la transparence des algorithmes présente six contributions pour affiner notre compréhension conceptuelle et empirique de l'utilisation des algorithmes dans le gouvernement.

« Il y a eu une recrudescence des critiques envers la « boîte noire » de la prise de décision algorithmique au sein du gouvernement, " expliquent les rédacteurs invités Sarah Giest (Université de Leiden) et Stephan Grimmelikhuijsen (Université d'Utrecht). nous montrons qu'il ne suffit pas de déballer les détails techniques des algorithmes, mais aussi regarder institutionnel, organisationnel, et le contexte individuel dans lequel ces algorithmes fonctionnent pour vraiment comprendre comment nous pouvons parvenir à des algorithmes transparents et responsables au sein du gouvernement. Par exemple, les réglementations peuvent permettre des mécanismes de transparence, pourtant, les organisations créent de nouvelles politiques sur la façon dont les algorithmes doivent être utilisés, et les fonctionnaires individuels créent de nouveaux répertoires professionnels. Tous ces niveaux interagissent et affectent la transparence algorithmique dans les organisations publiques."

Les défis de transparence pour l'utilisation des algorithmes transcendent les différents niveaux de gouvernement, du niveau européen aux bureaucrates publics individuels. Ces défis peuvent également prendre différentes formes; la transparence peut être activée ou limitée par des outils techniques ainsi que par des directives réglementaires ou des politiques organisationnelles. Les articles de ce numéro abordent les défis de transparence de l'utilisation des algorithmes au niveau macro-, méso-, et micro-niveau. Le niveau macro décrit les phénomènes d'un point de vue institutionnel—quels systèmes nationaux, les réglementations et les cultures jouent un rôle dans la prise de décision algorithmique. Le niveau méso accorde une attention prioritaire au niveau de l'organisation et de l'équipe, tandis que le niveau micro se concentre sur les attributs individuels, comme les croyances, motivation, interactions, et les comportements.

« Les appels à « tenir les humains au courant » peuvent être des points discutables si nous ne parvenons pas à comprendre comment les algorithmes ont un impact sur la prise de décision humaine et comment la conception algorithmique a un impact sur les possibilités pratiques de transparence et de discrétion humaine, " note Rik Peeters, professeur-chercheur en administration publique au Centre de recherche et d'enseignement en économie (CIDE) de Mexico. Dans une revue de la littérature académique récente sur la dynamique micro-niveau des systèmes algorithmiques, il discute de trois variables de conception qui déterminent les conditions préalables à la transparence et à la discrétion humaines et identifie quatre sources principales de variation dans « l'interaction homme-algorithme ».

L'article tire deux conclusions majeures :premièrement, les agents humains sont rarement complètement "hors circuit, " et les niveaux de surveillance et de dérogation conçus dans les algorithmes doivent être compris comme un continuum. Le second concerne la rationalité limitée, comportement satisfaisant, biais d'automatisation, et les mécanismes d'adaptation de première ligne qui jouent un rôle crucial dans la façon dont les humains utilisent les algorithmes dans les processus de prise de décision.

Pour de futures recherches, le Dr Peeters suggère d'examiner de plus près les mécanismes comportementaux en combinaison avec l'identification des compétences pertinentes des bureaucrates dans le traitement des algorithmes. "Sans une compréhension de base des algorithmes avec lesquels les bureaucrates de l'écran et de la rue doivent travailler, il est difficile d'imaginer comment ils peuvent utiliser correctement leur pouvoir discrétionnaire et évaluer de manière critique les procédures et les résultats algorithmiques. Les professionnels doivent avoir une formation suffisante pour superviser les algorithmes avec lesquels ils travaillent."

Au niveau macro, les algorithmes peuvent être un outil important pour permettre la transparence institutionnelle, écrit Alex Ingrams, Doctorat., Gouvernance et affaires mondiales, Institut d'administration publique, Université de Leyde, Leyde, Les Pays-Bas. Cette étude évalue une approche d'apprentissage automatique pour ouvrir les commentaires publics pour l'élaboration de politiques afin d'accroître la transparence institutionnelle des commentaires publics dans un processus législatif aux États-Unis. L'article applique une analyse d'apprentissage automatique non supervisée de milliers de commentaires publics soumis à la Transport Security Administration des États-Unis sur une proposition de règlement de 2013 pour l'utilisation de nouveaux scanners d'imagerie corporelle dans les aéroports. L'algorithme met en évidence des groupes de sujets saillants dans les commentaires publics qui pourraient aider les décideurs à comprendre les processus de commentaires publics ouverts. « Les algorithmes ne doivent pas seulement être soumis à la transparence, mais peuvent également être utilisés comme outil de transparence dans la prise de décision du gouvernement, " commente le Dr Ingrams.

« La certitude réglementaire associée à la capacité organisationnelle et de gestion déterminera la manière dont la technologie est développée et utilisée et quels mécanismes de transparence sont en place pour chaque étape, " notent les rédacteurs invités. " En soi, ce sont des problèmes plus vastes à aborder en termes d'élaboration et d'adoption de lois ou de formation et d'orientation pour les gestionnaires publics et les bureaucrates. Le fait qu'ils soient liés complique encore plus ce processus. La mise en évidence de ces liens est une première étape vers une vue d'ensemble des raisons pour lesquelles des mécanismes de transparence sont mis en place dans certains scénarios et pas dans d'autres et ouvre la porte à des analyses comparatives pour de futures recherches et de nouvelles perspectives pour les décideurs politiques. Prôner l'utilisation responsable et transparente des algorithmes, les recherches futures devraient examiner l'interaction entre les micro-, méso-, et la dynamique au niveau macro."

« Nous sommes fiers de vous présenter ce numéro spécial, le 100e numéro de Politique d'information . L'accent mis sur la gouvernance de l'IA démontre notre volonté continue de s'attaquer aux problèmes contemporains de l'administration en ligne et l'importance de présenter d'excellentes recherches et les perspectives offertes par les perspectives de la politique de l'information, " ajouter le professeur Albert Meijer (Université d'Utrecht) et le professeur William Webster (Université de Stirling), Rédacteurs en chef.