Le monde a changé depuis que l'auteur de science-fiction Asimov en 1942 a écrit ses trois règles pour les robots
Des décennies après qu'Isaac Asimov ait écrit pour la première fois ses lois sur les robots, leur rôle sans cesse croissant dans nos vies nécessite un nouvel ensemble de règles radicales, L'expert juridique et IA Frank Pasquale a mis en garde jeudi.
Le monde a changé depuis que l'auteur de science-fiction Asimov en 1942 a écrit ses trois règles pour les robots, y compris qu'ils ne devraient jamais nuire aux humains, et les ordinateurs et algorithmes omniprésents d'aujourd'hui exigent des mesures à jour.
Selon Pasquale, auteur de "The Black Box Society:The Secret Algorithms Behind Money and Information", quatre nouvelles règles d'inspiration légale devraient être appliquées aux robots et à l'IA dans notre vie quotidienne.
"La première est que les robots devraient compléter plutôt que remplacer les professionnels", a déclaré Pasquale à l'AFP en marge d'une conférence sur la robotique à l'Académie pontificale des sciences du Vatican.
"Plutôt que d'avoir un robot médecin, vous devriez espérer que vous avez un médecin qui comprend vraiment comment fonctionne l'IA et obtient de très bons conseils de l'IA, mais en fin de compte, c'est la décision d'un médecin de décider quoi faire et quoi ne pas faire."
"La seconde est que nous devons arrêter les courses aux armements robotiques. Il y a beaucoup de gens en ce moment qui investissent dans des robots de guerre, robots militaires, robots policiers."
Pas d'humanoïdes
Pasquale, professeur de droit à l'Université du Maryland, dit qu'il est important que tout investissement dans la robotique militaire ou l'IA fournisse un avantage qui "ne sera pas immédiatement annulé par vos ennemis".
"C'est juste déprimant, c'est de l'argent dans un trou, vous construisez un robot qui peut dire si mon robot peut dire si votre robot peut dire si mon robot est sur le point d'attaquer. Ça ne s'arrête jamais."
Le troisième, et le plus controversé, la règle est de ne pas faire de robots humanoïdes ou d'IA, dit Pasquale, citant l'exemple d'un assistant de Google appelé Duplex qui appelait les gens pour confirmer les réservations d'hôtel sans leur dire qu'ils parlaient à un ordinateur.
Les robots ne peuvent avoir l'air humanoïdes "que si c'est totalement nécessaire à la tâche, " dit Pasquale
"Il y a eu un contrecoup immédiat parce que les gens pensaient que c'était Google qui essayait de faire passer ses machines pour des humains et je pense que le principe de contrefaçon est le plus important, que nous ne devrions pas contrefaire l'humanité."
Les robots ne peuvent avoir l'air humanoïdes "que si c'est totalement nécessaire à la tâche, " dit Pasquale, tels que « robots de soins ou robots sexuels ».
La quatrième et dernière loi est que tout robot ou IA devrait être « attribuable ou détenu par une personne ou une société constituée de personnes parce que… nous savons comment punir les gens mais nous ne savons pas comment punir les machines ».
Technologie à deux niveaux
"Si nous avons des drones qui volent autour de l'endroit qui sont autonomes, des voitures autonomes, des bots en ligne qui parlent sur Twitter ou dans des actions financières, tout cela doit être attribué à une personne."
"Il y a des entreprises comme Facebook où elles imposent une amende à l'entreprise, mais elles ne forcent jamais personne à abandonner de l'argent ou à être incarcéré pour avoir fait quelque chose de mal. Et c'est un problème.
"Nous avons déjà un problème avec les entreprises et si nous permettons aux robots d'être là-bas sans être attribuables à une personne ou à une entreprise, cela ne fait qu'empirer, " dit Pasquale, dont le livre "New Laws of Robotics" doit être publié par Harvard University Press.
Ce qu'il faut éviter à tout prix, c'est la technologie à deux vitesses, tels que proposés par Boeing pour leurs avions de ligne 737-MAX, mis à la terre après que des centaines de personnes soient mortes dans deux accidents imputés à un capteur défaillant en raison d'une erreur logicielle.
"Ils ont pris la décision à un très haut niveau d'autoriser les compagnies aériennes à acheter un deuxième capteur, mais ce serait un coût supplémentaire, Je pense que c'était 80, 000 dollars supplémentaires par avion, et cela laisse présager pour moi une tonne de problèmes."
"Une partie de ce que la loi doit faire est d'intervenir et de dire certaines de ces bonnes affaires que nous n'allons pas autoriser, nous allons dire que nous avons une norme pour voler, c'est une norme unique, ce n'est pas comme oh je dois chercher si Ryanair, American Airlines ou Lufthansa ont acheté le capteur supplémentaire, parce que c'est de la folie."
© 2019 AFP
