Il y a quelques années, des assistants numériques personnels comme Alexa d'Amazon, Siri et Google Assistant d'Apple semblaient futuristes. Maintenant, le futur est ici et ce futur est ancré, augmenté et omniprésent.

Des assistants numériques peuvent être trouvés dans votre bureau, domicile, auto, Hôtel, téléphone et bien d'autres endroits. Ils ont récemment subi une transformation massive et fonctionnent sur des systèmes d'exploitation alimentés par l'intelligence artificielle (IA). Ils observent et collectent des données en temps réel et ont la capacité d'extraire des informations de différentes sources telles que des appareils intelligents et des services cloud et de mettre les informations en contexte à l'aide de l'IA pour donner un sens à la situation. Bien que nous ayons parcouru un long chemin dans la conception et l'exécution de ces technologies d'IA, il reste encore du travail à faire dans ce domaine.

Une grande partie des données que ces assistants numériques collectent et utilisent comprennent des données personnelles, informations potentiellement identifiables et éventuellement sensibles. Alexa ou d'autres assistants numériques personnels peuvent-ils violer la confidentialité et la sécurité de nos données ? Peut-être. Il y a un côté sombre à ces assistants virtuels.

Mon expertise est dans la confidentialité des données, gouvernance des données et intelligence artificielle. J'étais auparavant responsable de l'information et de la protection de la vie privée au Commissariat à l'information et à la protection de la vie privée de l'Ontario.

Service d'accueil

Imaginez la situation suivante.

Vous attendez des invités. Votre premier invité arrive, et la caméra de sécurité extérieure sur votre porche la capture en train de se diriger vers votre maison. Une voix polie l'accueille et déverrouille la porte. Une fois à l'intérieur, votre assistant numérique explique à votre invité que vous êtes en route et que vous serez bientôt à la maison. Grâce à votre système audio domestique, votre assistant numérique joue une sélection de chansons préférées de vos invités (de votre réseau d'amis Spotify). Votre assistant numérique demande à votre invité si l'épice de citrouille est toujours sa saveur de café préférée ou si elle en préfère d'autres :vanille française ou colombienne. Peu après, votre invité prend le café de la machine à café numérique. Tâches d'accueil terminées, votre assistant numérique se tait, et en t'attendant, votre invité passe quelques coups de fil.

Il est fascinant de voir comment un assistant numérique peut valider de manière précise et autonome l'identité de votre invité, sélectionner ses chansons préférées, souvenez-vous de sa saveur de café préférée et gérez les appareils intelligents de votre maison.

Assistantes d'hébergement

Mais le comportement de votre assistant numérique vous concerne-t-il ?

Les assistants numériques peuvent enregistrer nos conversations, images et de nombreuses autres informations personnelles sensibles, y compris la localisation via nos smartphones. Ils utilisent nos données pour l'apprentissage automatique afin de s'améliorer au fil du temps. Leur logiciel est développé et maintenu par des entreprises qui réfléchissent constamment à de nouvelles façons de collecter et d'utiliser nos données.

Semblable à d'autres programmes informatiques, le problème fondamental avec ces assistants numériques est qu'ils sont vulnérables aux défaillances techniques et de processus. Les assistants numériques peuvent également être piratés à distance, entraînant des atteintes à la vie privée des utilisateurs.

Par exemple, un couple de l'Oregon a dû débrancher son appareil Alexa, L'assistant virtuel d'Amazon, car leur conversation privée a été enregistrée et envoyée à l'un de leurs amis sur leur liste de contacts.

Dans un autre incident, un Allemand a accidentellement eu accès à 1, 700 fichiers audio Alexa appartenant à un parfait inconnu. Les dossiers ont révélé le nom de la personne, habitudes, emplois et autres informations sensibles.

Privilège de sensibilisation

La popularité et la disponibilité croissantes des assistants numériques personnels ont entraîné un élargissement de la fracture numérique. Le paradoxe intéressant est que les individus conscients et sensibles aux questions de confidentialité limitent généralement leur utilisation des outils numériques, tandis que les utilisateurs qui sont moins enclins à protéger leur vie privée intègrent largement des assistants personnels dans leur vie numérique.

Les assistants numériques enregistrent des données en continu ou attendent qu'un mot "se réveille" ou s'active. Ils ne limitent pas la collecte de données aux informations des propriétaires ou des utilisateurs autorisés. Les assistants numériques personnels peuvent collecter et traiter les données personnelles des utilisateurs non autorisés, comme leurs voix.

Dans la société numériquement divisée, une personne soucieuse de la protection de la vie privée n'inviterait pas un tel équipement dans sa vie, tandis que d'autres peuvent accepter ou rationaliser de tels comportements.

Respect de la vie privée des autres

À l'ère des appareils omniprésents et de l'accès à Internet, comment faire face à ce paradoxe et respecter l'espace et les choix de chacun ?

Revenons sur notre assistant numérique personnel imaginaire. Il devait traiter différentes sources d'informations sur l'invité pour fonctionner en tant qu'hôte intelligent. L'assistant numérique a-t-il utilisé toutes ces données pour alimenter les algorithmes ou pour envahir la vie privée du client ? Selon qui vous demandez, la réponse sera différente.

Notre éducation soucieuse de l'étiquette nous dit que nous avons la responsabilité sociale et éthique de respecter les valeurs de chacun en matière de technologies numériques. Mais les implications et la croissance de ces technologies ont été si importantes et rapides que nous n'avons pas encore été en mesure de redéfinir nos normes et attentes sociales.

Par exemple, en tant qu'hôte, avons-nous une obligation éthique envers nos clients de les informer sur notre assistant numérique personnel ? Est-il poli pour un visiteur à domicile de demander à l'hôte d'éteindre ses outils numériques ? Doit-on se renseigner sur la présence d'outils intelligents et d'assistants numériques avant d'arriver chez un ami, un hôtel ou un AirBnB ?

La réponse à ces questions est oui, selon l'expert en étiquette Daniel Post Senning. Senning explique que l'étiquette est plus puissante lorsque vous l'utilisez comme un outil d'auto-évaluation. Souhaitons-nous être informés que nous sommes enregistrés lors d'une réunion d'affaires ou d'une réunion privée ? Ou comment préférons-nous qu'on nous demande de désactiver les outils numériques si nous hébergeons ? Les règles de l'étiquette sont universelles :être prévenant, honnête et gentil.

Informez vos collègues et invités que vos appareils numériques peuvent enregistrer leurs voix, images ou autres informations. Demandez à votre hôte de désactiver les assistants numériques si vous n'êtes pas à l'aise de les avoir avec vous. Mais soyez prévenant. Vous ne voudrez peut-être pas demander à votre hôte de désactiver les assistants numériques en présence d'une personne âgée ou handicapée qui dépend de ces outils.

Maintenir notre vie privée collective

La vie privée est une norme sociale que nous devons travailler ensemble pour maintenir. Tout d'abord, nous devons nous renseigner sur la cybersécurité et les risques potentiels des technologies numériques. Nous devons également être proactifs pour nous tenir au courant des dernières nouvelles sur les technologies et prendre des mesures si nécessaire.

Le rôle du gouvernement dans ce paradigme complexe est essentiel. Nous avons besoin de lois plus strictes sur la protection de la vie privée pour résoudre les problèmes de confidentialité associés aux assistants numériques personnels. À l'heure actuelle, des entreprises comme Amazon, Google et Apple font les règles.

D'autres juridictions ont élaboré et mis en œuvre des réglementations telles que le règlement général européen sur la protection des données (RGPD) qui supervise la collecte de données pour une grande variété d'appareils ménagers. Le Canada devrait emboîter le pas.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.