L'Union européenne a dévoilé mercredi des propositions pour réglementer l'intelligence artificielle qui appellent à des règles strictes et des garanties sur les applications à risque de la technologie en développement rapide.

Le rapport fait partie de la stratégie numérique plus large du bloc visant à maintenir sa position de pionnier mondial en matière de normes technologiques. Les grandes entreprises technologiques cherchant à exploiter le vaste et lucratif marché européen, y compris ceux des États-Unis et de la Chine, aurait à respecter les nouvelles règles qui entreraient en vigueur.

La Commission exécutive de l'UE a déclaré vouloir développer un "cadre pour une intelligence artificielle digne de confiance". La présidente de la Commission européenne, Ursula von der Leyen, avait ordonné à ses principaux députés de proposer une approche européenne coordonnée en matière d'intelligence artificielle et de stratégie de données 100 jours après son entrée en fonction en décembre.

« Nous serons particulièrement prudents lorsque des droits humains et des intérêts essentiels sont en jeu, " von der Leyen a déclaré aux journalistes à Bruxelles. " L'intelligence artificielle doit servir les gens, et donc l'intelligence artificielle doit toujours respecter les droits des personnes."

dirigeants de l'UE, soucieux d'établir « la souveraineté technologique, " a également publié une stratégie pour débloquer les données des entreprises du continent et du secteur public afin qu'elles puissent être exploitées pour de nouvelles innovations en matière d'intelligence artificielle. Fonctionnaires en Europe, qui n'a pas de géants technologiques locaux, espère rattraper les États-Unis et la Chine en utilisant le vaste et croissant de données industrielles du bloc pour ce qu'ils prévoient être une vague de transformation numérique à venir.

Ils ont également averti qu'encore plus de réglementation pour les entreprises technologiques étrangères est en magasin avec le prochain "Digital Services Act, " une refonte en profondeur de la façon dont le bloc traite les entreprises numériques, y compris potentiellement les tenir responsables du contenu illégal publié sur leurs plateformes. Un flux constant de chefs de technologie de la Silicon Valley, dont le PDG de Facebook, Mark Zuckerberg, Le PDG de Google Sundar Pichai et le président de Microsoft Brad Smith, se sont rendus à Bruxelles ces dernières semaines dans le cadre d'apparents efforts de lobbying.

"Ce n'est pas nous qui devons nous adapter aux plateformes d'aujourd'hui. Ce sont les plateformes qui doivent s'adapter à l'Europe, " a déclaré Thierry Breton, commissaire au marché intérieur. "C'est le message que nous avons délivré aux PDG de ces plateformes lorsqu'ils viennent nous voir."

Si les entreprises technologiques ne sont pas en mesure de créer des systèmes « pour nos employés, alors nous réglerons, et nous sommes prêts à le faire dans la loi sur les services numériques à la fin de l'année, " il a dit.

Le rapport de l'UE a déclaré que des règles claires sont nécessaires pour traiter « les systèmes d'IA à haut risque, " comme ceux en recrutement, soins de santé, les forces de l'ordre ou les transports, qui doit être "transparent, traçables et garantir une surveillance humaine. » D'autres systèmes d'intelligence artificielle pourraient être dotés d'étiquettes certifiant qu'ils sont conformes aux normes de l'UE.

L'intelligence artificielle utilise des ordinateurs pour traiter de grands ensembles de données et prendre des décisions sans intervention humaine. C'est utilisé, par exemple, pour négocier des actions sur les marchés financiers, ou, Dans certains pays, scanner des visages dans les foules pour trouver des suspects criminels.

Bien qu'il puisse être utilisé pour améliorer les soins de santé, rendre l'agriculture plus efficace ou lutter contre le changement climatique, cela comporte aussi des risques. Il peut être difficile de savoir sur quelles données les systèmes d'intelligence artificielle fonctionnent. Les systèmes de reconnaissance faciale peuvent être biaisés contre certains groupes sociaux, par exemple. Il existe également des préoccupations concernant la vie privée et l'utilisation de la technologie à des fins criminelles, dit le rapport.

Des directives centrées sur l'humain pour l'intelligence artificielle sont essentielles car "aucune des choses positives ne sera réalisée si nous nous méfions de la technologie, " dit Margrethe Vestager, le vice-président exécutif supervisant la stratégie numérique de l'UE.

Sous les propositions, qui sont ouverts à la consultation publique jusqu'au 19 mai, Les autorités de l'UE veulent pouvoir tester et certifier les données utilisées par les algorithmes qui alimentent l'intelligence artificielle de la même manière qu'elles vérifient les cosmétiques, voitures et jouets.

Il est important d'utiliser des données impartiales pour former des systèmes d'intelligence artificielle à haut risque afin qu'ils puissent éviter la discrimination, dit la commission.

Spécifiquement, Les systèmes d'IA pourraient être obligés d'utiliser des données reflétant le genre, l'origine ethnique et « d'autres motifs possibles de discrimination interdite ».

D'autres idées incluent la préservation des données pour aider à retracer tout problème et le fait que les systèmes d'IA définissent clairement leurs capacités et leurs limites. Users should be told when they're interacting with a machine and not a human while humans should be in charge of the system and have the final say on decisions such as rejecting an application for welfare benefits, dit le rapport.

EU leaders said they also wanted to open a debate on when to allow facial recognition in remote identification systems, which are used to scan crowds to check people's faces to those on a database. It's considered the "most intrusive form" of the technology and is prohibited in the EU except in special cases.

© 2020 La Presse Associée. Tous les droits sont réservés. Ce matériel ne peut pas être publié, diffuser, réécrit ou redistribué sans autorisation.