La démonstration d'intelligence artificielle de Google était amusante, mais a soulevé une question importante :avez-vous le droit de savoir que vous parlez à une machine ?

Google nous a surpris toute cette semaine avec l'introduction de son nouveau système d'intelligence artificielle, Google Duplex.

Contrairement à Siri, Alexa et autres assistants IA, le système parle comme un humain convaincant. Quoi de plus, il est conçu pour passer des appels téléphoniques en votre nom, comme réserver une table dans un restaurant ou un rendez-vous dans un salon de coiffure.

"Je pense que AI Duplex est une technologie cool, ", déclare Hussein Abbass, expert en intelligence artificielle de l'UNSW Canberra et professeur SEIT.

"Je ne veux certainement pas perdre mon temps à passer des appels téléphoniques pour réserver un restaurant ou un coiffeur."

Une conversation avec les flux Duplex, "ums" et "mmm-hmms" sont ajoutés pour faire bonne mesure, et il est probable que la personne qui reçoit n'a aucune idée qu'elle parle à une machine.

Et pour beaucoup, cela pose un problème éthique. Duplex doit-il se présenter comme un robot ?

Le professeur Abbass dit que oui.

"Le point clé ici est qu'il doit s'identifier, " dit le professeur Abbass.

"Dans la vidéo, AI Duplex a déclaré qu'il appelait au nom d'un client. L'humain de l'autre côté de la ligne ne lui a jamais demandé de s'identifier. Si AI Duplex utilise un nom humain pour gagner la confiance humaine, alors il y a clairement un élément de tromperie et l'IA agirait de manière contraire à l'éthique.

"Si AI Duplex s'identifie comme un robot automatisé ou similaire, alors ce sera à l'humain de décider s'il souhaite poursuivre la conversation."

Le professeur Abbass dit que AI Duplex collecte des signatures vocales humaines qui continuent à entraîner le robot et que même sa propre voix semble être une synthèse d'une ou plusieurs voix humaines.

"Ces humains doivent être plus conscients de la façon dont leurs données sont utilisées et ils doivent donner leur consentement explicite pour la collecte des données et pour l'utilisation prévue des données, " il dit.

Si nous pouvons faire confiance à Duplex pour prendre nos rendez-vous chez le coiffeur, peut-on aussi lui faire confiance pour passer un appel d'urgence ? Le professeur Abbass dit que cela pourrait avoir ses avantages et ses inconvénients.

"Un assistant de voiture pourrait appeler l'ambulance en cas d'urgence comme un accident, et dans ce cas, c'est une technologie qui sauve des vies, " il dit.

"S'il est mal utilisé, alors comme toute technologie, lorsqu'il est utilisé à mauvais escient, il s'agit d'un acte inapproprié - qui pourrait même être illégal."

Le professeur Abbass dit que la technologie a encore un long chemin à parcourir avant de pouvoir soutenir de longues discussions humaines.

"Néanmoins, cette technologie est un excellent exemple de la raison pour laquelle la technologie doit être éthique. Si un humain demande de l'aide pour passer un appel inapproprié, AI Duplex devrait dire "non", " il ajoute.