Créer un avenir radieux pour tous nécessite plus d'humanité que moins. Surtout dans le cas des robots.

Des termes comme « IA » et « apprentissage automatique » font lentement partie de notre monde quotidien. Des documents de recherche à votre fil d'actualité, il y a de fortes chances que vous ayez vu ces termes apparaître plus souvent ces dernières années.

Alors que ces idées deviennent de plus en plus courantes, ils commencent à soulever d'anciennes questions philosophiques auxquelles nous n'avons pas encore de réponse. Des questions comme « Qu'est-ce que cela signifie d'être humain ? » ou « Comment quantifier les dommages ? »

Pour certaines applications de l'IA, répondre à ces questions séculaires est essentiel. En cas de risques, comme les voitures sans conducteur, avoir une réponse peut être une question de vie ou de mort.

L'éthique des robots

Ces questions ne sont pas ignorées alors que la tendance à l'automatisation se poursuit. Des chercheurs du monde entier ont cherché à répondre à ces questions.

L'une de ces chercheuses est Anna Sawyer, qui rédige son doctorat. sur l'éthique des robots à l'Université d'Australie occidentale.

Anna dit qu'il s'agit de la façon dont les machines prennent des décisions avec des résultats sérieux et des cadres que nous devrions avoir en place pour guider ces décisions.

Le travail d'Anna l'a amenée à conseiller l'équipe derrière je suis mère , un film de science-fiction réalisé en Australie explorant certaines de ces questions.

Humains contre robots

Un élément clé de l'éthique des robots est la différence entre la prise de décision humaine et robotique.

Dans le cas d'essayer d'éviter un accident, les humains prennent des décisions réactives avec un temps et des informations limités. Mais les robots peuvent faire calculé, décisions proactives, potentiellement avec plus d'informations.

Mais voici le hic :nous devons décider comment les robots prennent ces décisions. Et cela nous oblige à prendre des décisions très inconfortables dans le processus.

Comme décider entre une voiture avec deux enfants et un parent heurtant un bus scolaire plein d'enfants ou heurtant un mur pour éviter le bus.

Ou décider de sauver un jeune passager au détriment d'une personne plus âgée qui a moins de vie à vivre.

Il suscite également une discussion sur la réduction des dommages. Quand la réduction va-t-elle trop loin ? Ou un exemple donné par Anna :voudrions-nous éviter un orteil écrasé au prix d'une œuvre d'art inestimable ?

Ce dilemme est au cœur de la discussion sur l'éthique des robots.

Big data à la rescousse ?

Vous pourriez penser que la solution réside dans plus de données, mais cela peut encore compliquer les choses.

Pensez aux données personnelles que Google ou Apple pourraient avoir sur vous à partir de votre utilisation de votre téléphone et des réseaux sociaux. Considérez maintenant qu'ils se lancent dans le secteur des voitures sans conducteur.

Anna dit que ces données ont le potentiel d'être utilisées pour prendre des décisions dans des situations de vie ou de mort telles qu'un accident de voiture.

Pour en revenir au choix entre sacrifier une personne plus âgée ou une plus jeune, que se passerait-il si la personne âgée avait un prix Nobel de la paix ? Et la plus jeune avait un casier judiciaire violent ?

« Est-ce que cela change – et cela devrait-il changer – la façon dont le véhicule agit ? » demande Anna. "Si c'est le cas, comment le programmer alors ?"

L'avenir

Nous n'avons pas encore les réponses, alors comment apprend-on à un robot à y répondre ?

Comme beaucoup de questions éthiques, il s'agit d'un dicton séculaire.

"Ce n'est pas parce que nous pouvons le faire que nous devons le faire, " dit Anne.

"Mais si nous voulons le faire, nous devons nous assurer qu'autant de personnes que possible sont impliquées dans cette conversation."

On oublie souvent que l'avenir, par définition, est toujours à écrire. Mais si la technologie continue dans cette direction, nous n'aurons peut-être pas longtemps pour le résoudre.

Cet article a été publié pour la première fois sur Particle, un site d'actualité scientifique basé à Scitech, Perth, Australie. Lire l'article original.