Un nouvel article publié dans Communication IA donne un aperçu complet de l'élaboration d'un cadre éthique, code de conduite, et des méthodologies de conception basées sur la valeur pour les chercheurs en IA et les développeurs d'applications en Europe. La « Déclaration de Barcelone pour le bon développement et l'utilisation de l'intelligence artificielle en Europe » a été lancée au printemps 2017 lors de l'événement B-Debate à Barcelone, stimuler la discussion entre les décideurs politiques, chefs de file de l'industrie, chercheurs et développeurs d'applications sur les opportunités et les risques de l'IA dans l'environnement actuel de la « ruée vers l'or ».

En plus de documenter l'intégralité de la Déclaration de Barcelone, le document examine la justification derrière cela, se concentre sur la sécurité, fiabilité, et les questions d'éthique et évalue les progrès réalisés par rapport à ses recommandations clés. Parrainé par le Biocat et l'Obra Social la Caixa, avec le soutien de l'ICREA, l'Institut de biologie évolutive, et l'Institut d'Investigacio en Intelligencia Artificial, B-Debate a réuni les meilleurs experts en Europe pour discuter des stratégies pour faire face aux risques et aux avantages de l'IA. L'événement était unique en raison de la participation de développeurs et de chercheurs européens à un discours qui avait été auparavant dominé par des sociologues américains et britanniques, juristes, et des cabinets de conseil aux entreprises. La Déclaration de Barcelone a été signée par la plupart des participants et est accessible pour signature et discussion sur le web.

"Compte tenu de l'intérêt général pour l'IA et de l'empressement à développer des applications qui affectent les gens dans leur vie quotidienne, il est important que la communauté de la recherche et du développement d'applications s'engage dans des discussions ouvertes pour éviter des attentes irréalistes, conséquences inattendues, et l'utilisation qui provoque des effets secondaires négatifs ou des souffrances humaines, " a déclaré Luc Steels, Doctorat., Professeur de recherche ICREA, Institution Catalane de Recherche et d'Etudes Avancées (ICREA) - IBE (UPF/CSIC), Barcelone, qui avec son co-investigateur Ramon Lopez de Mantaras, Doctorat., Professeur-chercheur du Conseil national espagnol de la recherche (CSIC) et directeur de l'Instituto de Investigación en Inteligencia Artificial (IIIA) - CSIC, Bellaterra, Barcelone, organisé l'événement de Barcelone.

Alors que la plupart des activités d'IA se déroulent aux États-Unis et en Chine, les actions récentes de la Commission européenne et des gouvernements nationaux indiquent que la recherche et le développement s'intensifient en Europe, croissance que le discours autour de la Déclaration contribue à façonner. Un développement prometteur a été la récente allocation dans le cadre du programme-cadre européen H2020 pour la création d'un écosystème et d'une plate-forme pour stimuler la recherche européenne en IA, comme le demande la Déclaration. Le document renouvelle son appel aux agences de financement et aux entreprises européennes pour qu'elles investissent dans le développement de l'IA à une échelle adaptée au défi, et de manière à ce que toutes les régions et tous les citoyens européens puissent en profiter.

Le B-Débat, Déclaration de Barcelone, et un corpus de littérature en croissance rapide soulève des questions urgentes qui continuent de résonner :l'IA est-elle prête pour un déploiement à grande échelle ? L'IA est maintenant principalement utilisée à des fins commerciales, mais peut-on aussi utiliser l'IA pour le bien commun ? Quelles candidatures devons-nous encourager ? Comment faire face aux effets négatifs du déploiement de l'IA ? Quelles sont les récentes percées techniques en IA et quel impact ont-elles sur les applications ? Quel devrait être le rôle de l'IA dans les médias sociaux ? Quelles sont les meilleures pratiques pour le développement et le déploiement de l'IA ?

« Alors que les avancées rapides de l'IA sont largement attendues avec enthousiasme, une certaine anxiété de progrès est nécessaire et justifiée, " ont commenté Steels et Lopez de Mantaras. " La crainte commune que le déploiement de l'IA devienne incontrôlable peut sembler farfelue, mais il y a déjà des conséquences imprévues qui nécessitent une réparation urgente. Par exemple, les algorithmes intégrés au Web et aux médias sociaux ont un impact sur qui parle à qui, comment les informations sont sélectionnées et présentées, et comment les faits/faux mensonges se propagent et se concurrencent dans l'espace public. L'IA devrait (et pourrait) aider à soutenir la formation d'un consensus plutôt que de le détruire. Les systèmes d'IA devraient indiquer très clairement qu'ils sont artificiels plutôt qu'humains. Tromper les humains ne devrait jamais être un objectif de l'IA."

Des questions sont également explorées sur la fiabilité et la responsabilité des systèmes d'IA basés sur un apprentissage en profondeur impliquant un comportement régi par des règles (par exemple, la prise de décision financière, Gestion des ressources humaines, ou application de la loi). Les préjugés enracinés peuvent empêcher les demandeurs d'emploi qualifiés de réussir la sélection ou entraîner des décisions de libération conditionnelle injustes. Les systèmes d'IA autonomes posent des problèmes différents. Doit-on mettre des limites aux armes autonomes ? Qui est responsable en cas de problème avec une voiture autonome ?

« La Déclaration de Barcelone a défini un cadre de gouvernance pour intégrer les meilleures pratiques de manière proactive, dans le cadre du processus de conception. Nous pensons que l'IA peut être une force pour le bien de la société, mais qu'il y a un danger suffisant pour inapproprié, utilisation prématurée ou malveillante pour justifier la nécessité de sensibiliser aux limites de l'IA et d'une action collective pour s'assurer que l'IA est bien utilisée pour le bien commun en toute sécurité, fiable, et des moyens responsables, " ont expliqué Steels et Lopez de Mantaras.

Bien que le paysage de l'IA en Europe évolue rapidement à travers toutes ces discussions et activités, les enquêteurs concluent que les questions soulevées dans la Déclaration restent très pertinentes, et renouveler les recommandations dans plusieurs domaines prioritaires :

• Il est encore plus nécessaire aujourd'hui de clarifier ce que nous entendons par IA lorsque nous discutons de questions juridiques et éthiques. Il y a un manque de distinction entre l'IA basée sur la connaissance, qui modélise la connaissance humaine en termes informatiques, ou apprentissage orienté données, communément appelé apprentissage automatique. Les enjeux juridiques et éthiques et les applications des deux approches sont dissemblables, mais le plein potentiel de l'IA ne sera réalisé qu'avec une combinaison d'entre eux.
• La question de savoir quelle autonomie doit être donnée à un système d'IA est pour de nombreuses applications, comme la technologie des armes ou les voitures autonomes, de première importance. Une approche consiste à créer des règles de gouvernance et un cadre juridique qui soient à la fois une ligne directrice pour les développeurs et un mécanisme par lequel ceux qui sont affectés négativement par la technologie peuvent demander réparation.
• L'accent doit passer des machines remplaçant les travailleurs humains à la complémentarité et à l'utilisation des humains dans l'exécution des tâches et la prise de meilleures décisions. Le débat sur l'automatisation devrait se concentrer sur la nature changeante du travail, pas seulement le nombre d'emplois.
• Il reste un long chemin à parcourir pour soutenir de manière adéquate le développement et le déploiement de l'IA en Europe. La Déclaration a contribué à sensibiliser et a donné une impulsion supplémentaire aux initiatives gouvernementales, mais des actions concrètes et des allocations de financement stables qui impactent directement le déploiement de l'IA, recherche, et l'éducation en Europe sont encore rares.