Université de Montréal, en collaboration avec les Fonds de recherche du Québec, a dévoilé aujourd'hui la Déclaration de Montréal pour le développement responsable de l'intelligence artificielle. Cet ensemble de lignes directrices éthiques pour le développement de l'intelligence artificielle est l'aboutissement de plus d'un an de travail, recherches et consultations avec les citoyens, experts, les décideurs publics et les acteurs de l'industrie, organisations de sociétés civiles, et les ordres professionnels.

L'intelligence artificielle (IA) est une forme majeure de progrès scientifique et technologique qui peut générer des avantages sociaux considérables. Le développement de l'IA, cependant, pose des défis éthiques et des risques sociaux. Il incombe aux différents acteurs et décideurs publics et privés, au local, niveaux national et international, veiller à ce que le développement et le déploiement de l'IA soient compatibles avec la protection et la réalisation des capacités et des objectifs humains fondamentaux.

« L'Université de Montréal a été au cœur de nombreuses percées scientifiques en intelligence artificielle, et je me réjouis qu'un vaste réseau de chercheurs et de leaders du monde scientifique, légal, les sphères économiques et politiques se sont désormais regroupées autour des enjeux sociaux et éthiques liés à l'IA, " a déclaré le recteur de l'Université de Montréal Guy Breton. " J'invite toute personne intéressée par le sujet à lire le texte de la Déclaration et à la signer, pour que leur voix soit entendue.

Yoshua Bengio, membre du comité directeur de la Déclaration IA responsable de Montréal, a ajouté :« En tant que scientifique, Je ressens une grande responsabilité de veiller à ce que les résultats de mes recherches et des développements à travers le spectre de l'IA soient utilisés au profit du plus grand nombre de personnes possible. En intégrant les principes de responsabilité sociale dès le début du développement technologique dans les laboratoires universitaires et industriels, nous pouvons avoir un impact vraiment positif et concret. C'est la particularité de cette Déclaration :elle intègre les préoccupations de tous les acteurs de terrain et mobilise l'ensemble de la société civile autour de principes sains. »

Dit Rémi Quirion, Le scientifique en chef du Québec :« En plus de soutenir le développement de l'expertise scientifique en intelligence artificielle, il devenait important pour les Fonds de recherche du Québec de prendre en compte les aspects éthiques et sociétaux des avancées dans ce domaine de recherche. Dans cet esprit, Je salue le travail qui a mené au lancement de la Déclaration de Montréal pour le développement responsable de l'intelligence artificielle, développé en collaboration avec la société civile. Le nouvel Observatoire international des impacts sociétaux de l'intelligence artificielle et des technologies numériques, annoncé hier, sera très certainement fondée sur les principes contenus dans la Déclaration.

10 principes

Un objectif clé de la Déclaration est d'identifier les principes et valeurs éthiques applicables aux domaines de la technologie numérique et de l'IA qui promeuvent les intérêts fondamentaux des personnes et des groupes. Ces principes sont :

1. Bien-être :Le développement et l'utilisation de systèmes d'intelligence artificielle (AIS) doivent permettre la croissance du bien-être de tous les êtres sensibles.
2. Respect de l'autonomie :l'AIS doit être développé et utilisé dans le respect de l'autonomie des personnes, et dans le but d'accroître le contrôle des personnes sur leur vie et leur environnement.
3. Protection de la vie privée et de l'intimité :La vie privée et l'intimité doivent être protégées contre les intrusions des AIS et des systèmes d'acquisition et d'archivage de données.
4. Solidarité :Le développement de l'AIS doit être compatible avec le maintien des liens de solidarité entre les personnes et les générations.
5. Participation démocratique :l'AIS doit répondre à l'intelligibilité, critères de justification et d'accessibilité, et doit être soumis à un contrôle démocratique, débat et contrôle.
6. Équité :Le développement et l'utilisation des SIA doivent contribuer à la création d'une société juste et équitable.
7. Inclusion de la diversité :Le développement et l'utilisation des SIA doivent être compatibles avec le maintien de la diversité sociale et culturelle, et ne doit pas restreindre la portée des choix de vie et de l'expérience personnelle.
8. Prudence :Toute personne impliquée dans le développement de l'AIS doit faire preuve de prudence en anticipant, le plus loin possible, les conséquences néfastes potentielles de l'utilisation de l'AIS, et en prenant les mesures appropriées pour les éviter.
9. Responsabilité :Le développement et l'utilisation de l'AIS ne doivent pas contribuer à diminuer la responsabilité des êtres humains lorsque des décisions doivent être prises.
10. Développement durable :Le développement et l'utilisation des SIA doivent être menés de manière à assurer une forte durabilité environnementale de la planète.

8 recommandations

Sur la base de ces principes, Des recommandations ont été élaborées afin de proposer des orientations pour accomplir la transition numérique dans le cadre éthique de la Déclaration.

1. Organisation d'examen et de consultation citoyenne indépendante :Une organisation dédiée à l'examen et à la recherche sur les usages et les impacts sociaux du numérique et de l'IA devrait être mise en place.
2. Politique d'audit et de certification SIA :Une politique cohérente d'audit et de certification des AIS favorisant un déploiement responsable doit être mise en place.
3. Autonomisation et automatisation :Il devrait y avoir un soutien pour l'autonomisation des citoyens face aux technologies numériques, sous la forme d'un accès à une éducation qui permet de comprendre, Esprit critique, le respect, et la responsabilité, afin de promouvoir une participation active à une société numérique durable.
4. Education et éthique :L'éducation des acteurs concernés par la conception, le développement et l'utilisation de l'AIS doivent être repensés, avec un investissement dans la pluridisciplinarité et l'éthique.
5. Développement inclusif de l'IA :Une stratégie cohérente doit être mise en œuvre, en utilisant les différentes ressources institutionnelles existantes, promouvoir le développement inclusif de l'IA et prévenir les biais potentiels et la discrimination liés au développement et au déploiement de l'AIS.
6. Protection de la démocratie :Préserver la démocratie contre la manipulation de l'information à des fins politiques, une stratégie de confinement est nécessaire pour empêcher la tromperie et la manipulation politique des citoyens via des plateformes sociales et des sites Web malveillants, ainsi qu'une stratégie de lutte contre le profilage politique, afin de maintenir les conditions d'institutions démocratiques fonctionnant sainement et de citoyens informés.
7. Développement international de l'IA :un modèle de développement international non prédateur devrait être adopté, qui vise à inclure les différentes régions du monde sans abuser des pays à revenu faible et intermédiaire (PRFI).
8. Empreinte environnementale :une stratégie publique/privée doit être mise en œuvre pour garantir que le développement et le déploiement de l'AIS et d'autres technologies numériques sont compatibles avec une durabilité environnementale solide et propices à l'avancement des solutions à la crise environnementale.