Comment empêcher les villes d'être transformées en jungles d'IA

Dans la City de Londres, on trouve même des caméras de sécurité dans les cimetières. En 2021, le bureau du maire a lancé un effort pour établir des lignes directrices pour la recherche autour des technologies émergentes. Crédit :Acabashi/Wikimedia, CC BY

Alors que l'intelligence artificielle devient de plus en plus omniprésente, son potentiel et les défis qu'elle présente sont de plus en plus mis en évidence. La façon dont nous équilibrons les risques et les opportunités s'annonce comme l'une des questions déterminantes de notre époque. De la même manière que les villes sont devenues des pôles d'innovation dans la culture, la politique et le commerce, elles définissent les frontières de la gouvernance de l'IA.

Parmi les exemples de la façon dont les villes ont pris les devants, citons la Coalition des villes pour les droits numériques, la Déclaration de Montréal pour une IA responsable et le Dialogue ouvert sur l'éthique de l'IA. D'autres peuvent être trouvés dans l'interdiction de la technologie de reconnaissance faciale à San Francisco et la pression de la ville de New York pour réglementer la vente de systèmes d'embauche automatisés et la création d'un agent de gestion et de politique des algorithmes. Les instituts urbains, les universités et d'autres centres éducatifs ont également pris de l'avance avec une série d'initiatives d'éthique de l'IA.

Ces efforts pointent vers un paradigme émergent appelé localisme de l'IA. Cela fait partie d'un phénomène plus large souvent appelé nouveau localisme, qui implique que les villes prennent la tête de la réglementation et de l'élaboration des politiques pour développer des approches spécifiques au contexte pour une variété de problèmes et de défis. Nous avons également constaté une adoption accrue des approches centrées sur la ville dans les cadres juridiques internationaux.

Ce faisant, les autorités municipales comblent les lacunes laissées par des cadres de gouvernance étatiques, nationaux ou mondiaux insuffisants liés à l'IA et à d'autres problèmes complexes. Ces dernières années, par exemple, ont vu l'émergence du « localisme à large bande », dans lequel les gouvernements locaux s'attaquent à la fracture numérique; et le "localisme de confidentialité", tous deux en réponse aux défis posés par l'utilisation accrue des données pour l'application de la loi ou le recrutement.

Le localisme de l'IA englobe une grande variété de problèmes, de parties prenantes et de contextes. En plus des interdictions de la reconnaissance faciale basée sur l'IA, les gouvernements locaux et les institutions examinent les règles d'approvisionnement relatives à l'utilisation de l'IA par les entités publiques, les registres publics des systèmes d'IA des gouvernements locaux et les programmes d'éducation publique sur l'IA. Mais alors même que les initiatives et les études de cas se multiplient, nous manquons toujours d'une méthode systématique pour évaluer leur efficacité ou même leur nécessité même. Cela limite la capacité des décideurs politiques à développer une réglementation appropriée et, plus généralement, freine la croissance du domaine.

Création d'un cadre de localisation de l'IA

Vous trouverez ci-dessous dix principes pour aider à systématiser notre approche du localisme de l'IA. Considérés ensemble, ils constituent un cadre naissant pour la mise en œuvre et l'évaluation d'initiatives dans le monde :

Les principes fournissent une étoile polaire pour la gouvernance : L'établissement et l'articulation d'un ensemble clair de principes directeurs est un point de départ essentiel. Par exemple, la Charte des technologies émergentes pour Londres, lancée par le bureau du maire en 2021 pour définir des « directives pratiques et éthiques » pour la recherche sur les technologies émergentes et les projets pilotes de technologie de ville intelligente, en est un exemple. Des projets similaires existent à Nantes, en France, qui a déployé une charte des données pour souligner l'engagement du gouvernement local en matière de souveraineté, de protection, de transparence et d'innovation des données. De tels efforts aident les parties intéressées à tracer une voie qui équilibre efficacement le potentiel et les défis posés par l'IA tout en affirmant un engagement d'ouverture et de transparence sur l'utilisation des données pour le public.
L'engagement du public fournit une licence sociale : L'établissement de la confiance est essentiel pour favoriser une utilisation responsable de la technologie ainsi qu'une acceptation et une adoption plus larges par le public. Les formes d'engagement du public - crowdsourcing, campagnes de sensibilisation, mini-assemblées, etc. - peuvent aider à renforcer la confiance et doivent faire partie d'un processus délibératif entrepris par les décideurs politiques. Par exemple, le California Department of Fair Employment and Housing a organisé sa première audition publique virtuelle avec des citoyens et des groupes de défense des travailleurs sur l'utilisation croissante de l'IA dans le recrutement et les ressources humaines, et sur le potentiel de biais technologique dans les achats.
La connaissance de l'IA permet un engagement significatif : L'objectif de la littératie en IA est d'encourager la familiarité avec la technologie elle-même ainsi qu'avec les questions éthiques, politiques, économiques et culturelles associées. Par exemple, l'Institut d'éthique de l'IA de Montréal, un organisme à but non lucratif axé sur l'avancement des connaissances en IA, fournit des informations gratuites, opportunes et compréhensibles sur l'IA et les événements liés à l'IA dans le monde entier.
Tirez parti de l'expertise locale : Les décideurs politiques devraient tirer parti de l'expertise des villes en matière d'IA en créant ou en soutenant des centres de recherche. Deux exemples sont la Confédération des laboratoires pour la recherche sur l'intelligence artificielle en Europe (CLAIRE), un projet paneuropéen qui met l'accent sur les utilisations de l'IA dans les villes en Europe, et "How Busy Is Toon", un site Web développé par le conseil municipal de Newcastle et l'université de Newcastle. pour fournir des informations en temps réel sur les transports en commun du centre-ville.
Innovez dans la façon dont la transparence est assurée : Pour instaurer la confiance et favoriser l'engagement, le localisme de l'IA doit englober des principes et des pratiques de transparence éprouvés. Par exemple, Amsterdam et Helsinki divulguent l'utilisation de l'IA et expliquent comment les algorithmes sont utilisés à des fins spécifiques. En outre, AI Localism peut innover dans la manière dont la transparence est assurée, en inculquant une prise de conscience et des systèmes permettant d'identifier et de surmonter les "angles morts de l'IA" et d'autres formes de préjugés inconscients.
Mettre en place des moyens de responsabilisation et de contrôle : L'une des caractéristiques marquantes du localisme de l'IA est la reconnaissance du besoin de responsabilité et de surveillance pour garantir le respect des principes de gouvernance réactive. Les exemples incluent le responsable de la gestion et de la politique des algorithmes de la ville de New York, le conseil consultatif de Singapour sur l'utilisation éthique de l'IA et des données et le groupe de travail consultatif sur la surveillance de Seattle.
Signaler les limites par le biais de lois et de politiques contraignantes : Les principes ne sont bons que s'ils sont mis en œuvre ou appliqués. La ratification de la législation, telle que la loi sur la confidentialité des données biométriques de la ville de New York, qui exige des avis clairs indiquant que les données biométriques sont collectées par les entreprises, limite la manière dont les entreprises peuvent utiliser ces données. Il interdit également la vente et le profit des données, envoie un message clair aux consommateurs que leurs droits et protections en matière de données sont respectés et tient les entreprises responsables du respect des privilèges de confidentialité.
Utiliser les achats pour façonner des marchés d'IA responsables : Comme les gouvernements municipaux et autres l'ont fait dans d'autres domaines de la vie publique, les villes devraient utiliser des politiques d'approvisionnement pour encourager les initiatives d'IA responsables. Par exemple, le conseil de Berkeley, en Californie, a adopté une ordonnance exigeant que les services publics justifient l'utilisation de nouvelles technologies de surveillance et que les avantages de ces outils l'emportent sur les inconvénients avant l'achat.
Mettre en place des collaborations de données pour lutter contre les asymétries : Les collaborations de données sont une forme émergente de partenariat intersectoriel, dans laquelle les données privées sont réutilisées et déployées pour le bien public. En plus de générer de nouvelles idées et innovations, ces partenariats peuvent également être des outils puissants pour éliminer les asymétries de données qui sous-tendent et alimentent tant d'inégalités socio-économiques plus larges. Encourager les collaborations de données, en identifiant les partenariats possibles et en faisant correspondre l'offre et la demande, est donc une composante importante du localisme de l'IA. Les efforts initiaux incluent l'échange de données d'Amsterdam, qui permet de partager les données en toute sécurité pour résoudre les problèmes locaux.
Faites de la bonne gouvernance une stratégie : Trop de stratégies d'IA n'incluent pas la gouvernance et trop d'approches de gouvernance ne sont pas stratégiques. Il est donc impératif que les villes aient une vision claire de la manière dont elles voient les données et l'IA utilisées pour améliorer le bien-être local. L'élaboration d'une stratégie d'IA, comme cela a été entrepris par le conseil municipal de Barcelone en 2021, peut créer des moyens d'intégrer l'utilisation intelligente de l'IA dans toutes les agences et d'ouvrir la sensibilisation à l'IA aux résidents afin de faire de l'utilisation responsable des données et des considérations un fil conducteur plutôt qu'un exercice cloisonné au sein des collectivités locales. gouvernement.

Le localisme de l'IA est un domaine émergent, et sa pratique et sa recherche restent en constante évolution. La technologie elle-même continue d'évoluer rapidement, offrant quelque chose d'une cible mouvante pour la gouvernance et la réglementation. Son état de flux met en évidence la nécessité du type de cadre décrit ci-dessus. Plutôt que de rattraper leur retard, en répondant de manière réactive aux vagues successives d'innovation technologique, les décideurs politiques peuvent réagir de manière plus cohérente et responsable, à partir d'un fondement fondé sur des principes qui prend en compte les besoins souvent concurrents des diverses parties prenantes. + Explorer plus loin