Une série de faux pas en matière de confidentialité ces derniers mois a suscité de nouvelles inquiétudes quant à l'avenir des assistants numériques à commande vocale, un marché en pleine croissance considéré par certains comme la prochaine frontière de l'informatique.

Incidents récents impliquant Google, Les appareils Apple et Amazon soulignent que malgré la forte croissance du marché des haut-parleurs et appareils intelligents, davantage de travail est nécessaire pour rassurer les consommateurs que leurs données sont protégées lorsqu'ils utilisent la technologie.

Apple a annoncé cette semaine qu'il suspendait son programme de "classement Siri", dans lequel les gens écoutent des extraits de conversations pour améliorer la technologie de reconnaissance vocale, après que le journal britannique Guardian a rapporté que les entrepreneurs avaient entendu des informations médicales confidentielles, des agissements criminels et même des rencontres sexuelles.

"Nous nous engageons à offrir une excellente expérience Siri tout en protégeant la confidentialité des utilisateurs, " Apple a déclaré dans un communiqué, ajoutant que cela permettrait aux consommateurs d'opter pour cette fonctionnalité dans une future mise à jour logicielle.

Google a quant à lui déclaré qu'il mettrait en pause l'écoute et la transcription des conversations dans l'Union européenne à partir de son assistant Google à la suite d'une enquête sur la confidentialité en Allemagne.

Amazone, qui a également reconnu utiliser des assistants humains pour améliorer l'intelligence artificielle de ses appareils alimentés par Alexa, a récemment annoncé une nouvelle fonctionnalité facilitant la suppression de toutes les données enregistrées.

Les cas récents peuvent donner aux consommateurs l'impression que quelqu'un « écoute » leurs conversations même si c'est rarement vrai.

« D'un point de vue technologique, il n'est pas surprenant que ces entreprises utilisent des humains pour annoter ces données, parce que la machine n'est pas assez bonne pour tout comprendre, " a déclaré Florian Schaub, un professeur de l'Université du Michigan spécialisé dans l'interaction homme-machine qui a fait des recherches sur les assistants numériques.

"Le problème, c'est que les gens ne s'y attendent pas et que ce n'est pas communiqué de manière transparente."

Caroline Milanesi, un analyste technologique chez Creative Strategies, convenu que les humains sont nécessaires pour améliorer la technologie.

"Les gens ont une attente quelque peu irréaliste que ces assistants finiront par s'améliorer par magie, qu'ils peuvent faire du machine learning et s'améliorer par eux-mêmes, mais en ce moment nous sommes encore au début de l'IA, et l'intervention humaine est toujours importante, " elle a dit.

Selon le cabinet d'études eMarketer, près de 112 millions de personnes, soit un tiers de la population américaine, utiliseront un assistant vocal au moins une fois par mois sur n'importe quel appareil, avec beaucoup utilisant des appareils alimentés par l'IA pour les recherches, musique et nouvelles ou informations.

Une enquête menée cette année par Microsoft auprès des consommateurs de cinq pays a révélé que 80 % d'entre eux étaient satisfaits de leur expérience avec les assistants numériques. Mais 41% des personnes interrogées ont déclaré avoir des inquiétudes concernant la confidentialité, confiance et écoute passive.

Des peurs infondées ?

Certaines des craintes relatives à la vie privée entourant les haut-parleurs intelligents sont basées sur de fausses hypothèses, notent les analystes.

Les appareils n'enregistrent ni ne transmettent d'informations tant qu'ils ne sont pas "activés" avec un mot-clé ou une phrase telle que "Hé, Siri" ou "Alexa".

Mais "il y a toujours un risque de fausse activation, " a noté Schaub.

« Vous devez faire confiance à l'appareil et à la société qui fabrique l'appareil que le microphone ne traite que localement jusqu'à ce que le mot d'activation soit entendu. »

Ryan Calo, co-directeur de la faculté du Tech Policy Lab de l'Université de Washington, dit que pendant que les appareils n'écoutent pas, des inquiétudes subsistent quant à l'accès aux conversations.

« Si les employés entendent des choses auxquelles ils ne devraient pas avoir accès, c'est vraiment un drapeau rouge, c'est une mauvaise pratique, " a déclaré Calo.

Faire bouillir la grenouille

Calo a déclaré que les problèmes de confidentialité concernant les assistants numériques sont susceptibles de croître à mesure que les appareils étendent leurs capacités.

"Je m'inquiète d'une tendance où ces systèmes commencent à écouter plus que votre simple commande affirmative - ils pourraient écouter des bris de verre ou des signes de détresse, ou un bébé qui pleure. Tout d'un coup, le système écoute toutes sortes de choses et la grenouille se met à bouillir en chauffant progressivement l'eau, " il a dit.

Calo a également exprimé son inquiétude quant au fait que les appareils peuvent être allumés à distance, une menace potentielle pour les libertés civiles.

"Si les forces de l'ordre obtiennent un mandat, cela pourrait transformer votre Echo en un appareil d'écoute, " il a dit.

Schaub a déclaré que les consommateurs craignent également que les données des appareils puissent être utilisées pour le ciblage publicitaire.

"Les gens veulent ces avantages mais sans permettre que leurs données soient utilisées contre eux, " il a dit.

Toujours, l'attrait des assistants numériques signifiera que le marché est susceptible de continuer à croître.

Schaub a déclaré qu'une façon de rassurer les consommateurs serait d'intégrer des fonctionnalités de confidentialité directement dans les commandes vocales afin que les utilisateurs puissent comprendre comment leurs données sont utilisées et faire de meilleurs choix.

« Les entreprises devraient voir cela comme une opportunité de discuter avec les clients de la façon dont elles les protègent, " il a dit.

© 2019 AFP