L'intelligence artificielle (IA) a suscité un intérêt considérable au cours des dernières décennies, en raison de ses applications prometteuses dans un large éventail de domaines. Mais, cela a également déclenché un débat en cours sur la question de savoir si les risques liés à l'utilisation de l'IA l'emportent sur ses avantages. La plus grande préoccupation avec l'IA est le manque de gouvernance, qui donne aux grandes entreprises (communément appelées les « Big Tech ») un accès illimité aux données privées. De multiples scandales dans un passé récent ont confirmé les menaces de cela, comme le tristement célèbre scandale Cambridge Analytica de 2018, dans lequel Facebook a commis une violation majeure de la vie privée en divulguant des informations confidentielles sur les utilisateurs à une société d'exploration de données. De plus, bien que l'IA doive être développée de manière socialement responsable, les gouvernements n'imposent souvent pas de législations strictes sur le développement de l'IA, ce qui peut être préjudiciable - plutôt que bénéfique - à la société.

Dans une nouvelle étude publiée dans Sustainable Development, Le Dr Jon Truby de l'Université du Qatar explique à quel point l'IA non réglementée est une menace pour les objectifs de développement durable (ODD) - un ensemble de lignes directrices créées par les Nations Unies (ONU) pour le développement durable de tous les pays. Le Dr Truby souligne que cette menace est particulièrement répandue dans les pays en développement, qui assouplissent souvent les réglementations de l'IA pour attirer les investissements de la Big Tech. Le Dr Truby explique, "Dans cette étude, Je propose la nécessité de mesures réglementaires proactives dans le développement de l'IA, ce qui contribuerait à garantir que l'IA fonctionne au profit du développement durable. »

Dans son étude, Le Dr Truby discute de trois exemples pour montrer comment une IA non réglementée peut être préjudiciable aux ODD. Pour commencer, il se concentre sur l'ODD 16, un objectif qui a été développé pour lutter contre la corruption, crime organisé, et le terrorisme. Il explique que parce que l'IA est couramment utilisée dans les bases de données de sécurité nationale, il peut être utilisé à mauvais escient par des criminels pour blanchir de l'argent ou organiser le crime. Ceci est particulièrement pertinent dans les pays en développement, où les données d'entrée peuvent être facilement accessibles en raison de mesures de protection médiocres. Le Dr Truby suggère que, pour éviter cela, il devrait y avoir une évaluation des risques à chaque étape du développement de l'IA. De plus, le logiciel d'IA doit être conçu de manière à être inaccessible en cas de menace de piratage. De telles restrictions peuvent minimiser le risque que des pirates informatiques obtiennent l'accès au logiciel.

Puis, Le Dr Truby prend l'exemple de l'ODD 8, un objectif qui vise à accroître l'accès du public aux services financiers. L'IA est régulièrement utilisée dans les institutions financières pour rendre les opérations bancaires plus simples et plus efficaces. Mais, tout en apprenant, L'IA peut développer par inadvertance certains biais, comme la réduction des opportunités financières pour certaines minorités. Le Dr Truby explique que pour éviter de tels biais, nous avons besoin de transparence dans les processus pilotés par l'IA. L'examen humain et l'intervention à chaque étape peuvent garantir qu'une telle discrimination ne passe pas inaperçue. De plus, il est nécessaire de former les développeurs de logiciels à reconnaître les implications néfastes des biais, afin qu'il puisse être régulé plus efficacement.

Finalement, Le Dr Truby explique comment l'IA est une menace pour l'ODD 10, un objectif axé sur l'égalité des chances. Il explique comment l'IA peut être utilisée par les grandes entreprises pour générer des opportunités d'emploi dans les pays en développement et que cela pourrait menacer les petites entreprises et les entreprises locales. Cependant, s'il est conçu dans une optique de développement durable, L'IA peut créer de meilleures opportunités d'emploi et augmenter la productivité en supprimant les emplois à forte intensité de main-d'œuvre.

Incontestablement, L'IA est une technologie puissante qui doit être utilisée avec prudence et efficacité. Bien que le Dr Truby soit optimiste quant aux implications futures de l'IA, il estime que les développeurs et les législateurs doivent faire preuve de prudence grâce à une gouvernance efficace. Il conclut, "Les risques de l'IA pour la société et les dommages possibles au développement durable peuvent être graves s'ils ne sont pas gérés correctement. D'un autre côté, la régulation de l'IA peut être extrêmement bénéfique pour le développement, conduisant à ce que les gens soient plus productifs et plus satisfaits de leur emploi et de leurs opportunités."