Les scientifiques ont proposé un nouveau cadre international pour maintenir l'éthique et le bien-être humain au premier plan de notre relation avec la technologie.

De la thérapie génique et des maladies prédites par l'IA aux voitures autonomes et à l'impression 3D, les progrès technologiques peuvent améliorer la santé, libérer du temps, et augmenter l'efficacité.

Cependant, malgré les meilleures intentions de ses créateurs, la technologie pourrait avoir des conséquences imprévues sur la vie privée et l'autonomie des individus.

Il n'existe actuellement aucune réglementation internationalement convenue sur qui, par exemple, a accès aux données enregistrées par les boîtes noires dans les voitures, les téléviseurs intelligents et les assistants personnels à commande vocale - et des découvertes récentes ont montré que la technologie peut être utilisée pour influencer le comportement de vote.

Maintenant, Les chercheurs de l'Imperial College de Londres ont suggéré un nouveau cadre réglementaire avec lequel les gouvernements peuvent minimiser les conséquences imprévues de notre relation avec la technologie. Le commentaire est publié dans Nature Machine Intelligence .

Le groupe de chercheurs, dirigé par le professeur de l'Imperial Rafael Calvo, disent que leur proposition pourrait aider à garantir les intérêts humains comme l'éthique, intimité, et le bien-être sont prioritaires à mesure que notre relation avec la technologie se développe.

Ils suggèrent d'utiliser l'étude d'impact environnemental, qui évalue les impacts environnementaux probables d'un projet ou d'un développement proposé, comme plan. L'évaluation tiendrait compte des facteurs socio-économiques interdépendants, impacts culturels et sur la santé humaine d'une IA et d'une technologie.

Le cadre proposé, connu sous le nom d'évaluation de l'impact humain pour la technologie (HIAT), serait conçu pour prédire et évaluer l'impact des nouvelles technologies numériques sur la société et le bien-être individuel. Cette, ils se disputent, devrait se concentrer sur des considérations éthiques telles que la vie privée, bien-être et autonomie.

L'évaluation doit également examiner quelles parties sont responsables de la gestion des données et du maintien des normes éthiques, ainsi que qui est responsable lorsque les choses tournent mal, disent les chercheurs.

Professeur Calvo, de la Dyson School of Design Engineering de l'Impériale, a déclaré : « Nous sommes confrontés à une quatrième révolution industrielle grâce au développement rapide de l'IA et de la technologie, mais à mesure que notre relation avec l'IA se développe, il en va de même de son potentiel de perturber nos vies. Prendre, par exemple, la preuve que l'IA est utilisée par les humains pour manipuler les émotions, attention, et les comportements de vote, ainsi que juridique, éducatif, et les décisions en matière d'emploi.

« Il est maintenant temps de mettre en place un cadre pour garantir que notre relation avec l'IA continue d'être positive. »

Des énigmes éthiques

Un cadre HIAT aiderait les industries émergentes à surmonter les énigmes éthiques qui vont de pair avec l'utilisation de l'IA et le stockage de grandes quantités de données.

D'après le commentaire, Les questions auxquelles les orientations convenues au niveau international pourraient aider à répondre comprennent :

• Certains assistants d'IA peuvent appeler des restaurants au nom d'une personne et utiliser un discours humain réaliste pour faire des réservations. Dans ces cas, quelles obligations devrait-il y avoir pour que l'humain qui décroche le téléphone se rende compte que l'appelant est une machine plutôt qu'un humain ? Quel consentement faut-il obtenir pour sauvegarder les données recueillies à partir de ces conversations ?
• Certains conducteurs installent des boîtes noires sur leurs voitures qui transmettent des informations aux compagnies d'assurance sur leur façon de conduire. Cette information est utilisée pour calculer les primes d'assurance. Dans ces cas, Comment pouvons-nous empêcher que les données personnelles collectées et traitées par AI (où vous allez et quand) soient vendues à des tiers ?
• Certains services de police utilisent le Body Worn Video (BWV) lorsqu'ils sont en service pour enregistrer de la vidéo et de l'audio qui pourraient ensuite être utilisés pendant les enquêtes. Il y a également eu des essais récents de logiciels de reconnaissance faciale, mais qui a accès aux données collectées dans ces cas, et les réglementations sont-elles suffisamment solides pour protéger la vie privée du public ?

Le professeur Calvo a ajouté :« Même si nous bénéficions souvent des progrès technologiques, nous pouvons aussi souffrir éthique, coûts psychologiques et sociaux.

« Les évaluations d'impact sont un outil important pour intégrer certaines valeurs et ont été utilisées avec succès dans de nombreuses industries, notamment l'exploitation minière, agriculture, travaux publics, et génie industriel.

« D'autres secteurs aussi, comme les produits pharmaceutiques, sont habitués à innover dans des environnements réglementaires forts, et il y aurait peu de confiance dans leurs produits sans ce cadre.

"Au fur et à mesure que l'IA mûrit, nous avons besoin de cadres comme HIAT pour donner aux citoyens l'assurance que cette nouvelle technologie puissante sera largement bénéfique pour tous."