Le développement de nouvelles technologies d'intelligence artificielle (IA) est souvent sujet à des biais, et les systèmes qui en résultent peuvent être discriminatoires, ce qui signifie que davantage devrait être fait par les décideurs politiques pour garantir que son développement est démocratique et socialement responsable.

C'est selon le Dr Barbara Ribeiro du Manchester Institute of Innovation Research de l'Université de Manchester, dans Sur l'IA et la robotique :élaborer une politique pour la quatrième révolution industrielle, un nouveau rapport politique sur le rôle de l'IA et de la robotique dans la société, en cours de publication aujourd'hui.

Le Dr Ribeiro ajoute parce que l'investissement dans l'IA sera essentiellement payé par les contribuables à long terme, les décideurs politiques doivent s'assurer que les avantages de ces technologies sont équitablement répartis dans toute la société.

Elle déclare : « Il est essentiel de garantir la justice sociale dans le développement de l'IA. Les technologies de l'IA reposent sur les mégadonnées et l'utilisation d'algorithmes, qui influencent la prise de décision dans la vie publique et sur des questions telles que la protection sociale, la sécurité publique et l'urbanisme.

« Dans ces processus de prise de décision « conduits par les données », certains groupes sociaux peuvent être exclus, soit parce qu'ils n'ont pas accès aux appareils nécessaires pour participer, soit parce que les ensembles de données sélectionnés ne tiennent pas compte des besoins, préférences et intérêts des personnes marginalisées et défavorisées."

On AI and Robotics:Developing policy for the Fourth Industrial Revolution est un rapport complet rédigé, développé et publié par Policy@Manchester avec d'éminents experts et universitaires de toute l'Université.