L'intelligence artificielle a un nouveau défi :savoir si et comment alerter les personnes qui ne savent peut-être pas qu'elles parlent à un robot.

Mardi, Google a présenté un assistant informatique qui passe des appels téléphoniques à consonance humaine de manière convaincante , du moins dans sa démonstration préenregistrée. Mais les vraies personnes dans ces appels ne semblaient pas se rendre compte qu'elles parlaient à une machine. Cela pourrait poser des problèmes épineux pour l'utilisation future de l'IA.

Parmi eux :est-il juste, voire légal, d'amener les gens à parler à un système d'IA qui enregistre efficacement toutes ses conversations ? Et tandis que la démonstration de Google a mis en évidence les utilisations bénignes des robots conversationnels, que se passe-t-il lorsque les spammeurs et les escrocs s'en emparent ?

Le PDG de Google, Sundar Pichai, a suscité des acclamations mardi alors qu'il faisait la démonstration de la nouvelle technologie, appelé Duplex, lors de la conférence annuelle de l'entreprise pour les développeurs de logiciels. L'assistant a ajouté des pauses, "ums" et "mmm-hmms" à son discours afin de paraître plus humain alors qu'il parlait avec de vrais employés dans un salon de coiffure et un restaurant.

"C'est très impressionnant, mais cela peut clairement conduire à des utilisations plus sinistres de ce type de technologie, " dit Matthieu Fenech, qui étudie les implications politiques de l'IA pour l'organisation londonienne Future Advocacy. "La capacité de capter la nuance, les utilisations humaines de petites phrases supplémentaires - ces sortes d'indices sont très humains, et clairement, la personne à l'autre bout du fil ne le savait pas."

Fenech a déclaré qu'il n'était pas difficile d'imaginer des utilisations néfastes de chatbots similaires, comme les entreprises de spam, arnaquer les personnes âgées ou passer des appels malveillants en utilisant la voix d'ennemis politiques ou personnels.

"Vous pouvez avoir des situations potentiellement très déstabilisantes où les gens sont signalés comme disant quelque chose qu'ils n'ont jamais dit, " il a dit.

Pichai et d'autres dirigeants de Google ont essayé de souligner que la technologie est encore expérimentale, et sera déployé avec prudence. Il n'est pas encore disponible sur les appareils grand public.

"Il est important pour nous que les utilisateurs et les entreprises aient une bonne expérience avec ce service, et la transparence en est un élément clé, " Les ingénieurs de Google Yaniv Leviathan et Yossi Matias, qui a aidé à concevoir la nouvelle technologie, a écrit dans un article de blog mardi. "Nous voulons être clairs sur l'intention de l'appel afin que les entreprises comprennent le contexte. Nous expérimenterons la bonne approche au cours des prochains mois."

On ne sait pas comment l'entreprise s'adaptera aux lois existantes sur les télécommunications, qui peut varier selon l'état ou le pays. Google n'a pas immédiatement renvoyé de demande de commentaire mercredi sur la façon dont il envisage de demander le consentement des personnes appelées par ses robots.

L'un des copropriétaires d'un salon de coiffure de la région de la baie de San Francisco qui fréquentait certains employés de Google était un peu effrayé par les implications en matière de confidentialité.

"Cela semble être quelque chose qui serait utile pour nos clients, " a déclaré Katherine Esperanza, copropriétaire du salon de coiffure Slick &Dagger à Oakland, Californie. Esperanza, cependant, se demandait si la boutique serait en mesure de bloquer les appels, et a déclaré que cela "soulève la question de savoir si la conversation est enregistrée et si le destinataire de ces appels automatisés peut savoir qu'ils sont enregistrés".

Les lois anti-écoutes en Californie et dans plusieurs autres États rendent déjà illégal l'enregistrement des appels téléphoniques sans le consentement de l'appelant et de la personne appelée. La Federal Communications Commission a également été aux prises avec des règles pour les appels automatisés, les appels non sollicités et composés automatiquement par les télévendeurs.

Ces appels sont généralement des monologues préenregistrés, mais de plus en plus d'entreprises et d'organisations utilisent des techniques d'apprentissage automatique pour répondre aux questions d'une personne avec une conversation naturelle, dans l'espoir qu'ils seront moins susceptibles de raccrocher.

© 2018 La Presse Associée. Tous les droits sont réservés.