La grande majorité des habitants des pays développés transportent désormais un smartphone partout. Et tandis que beaucoup d'entre nous sont déjà bien conscients des problèmes de confidentialité associés aux smartphones, comme leur capacité à suivre nos déplacements ou même à prendre des photos subreptices, de plus en plus de personnes commencent à craindre que leur smartphone n'écoute réellement tout ce qu'elles disent.

Il n'y a peut-être pas beaucoup de preuves pour cela, mais, il s'avère, ce n'est pas loin de la vérité. Des chercheurs du monde entier ont commencé à développer de nombreux types d'algorithmes d'IA d'analyse audio puissants qui peuvent extraire beaucoup d'informations nous concernant à partir du son seul. Alors que cette technologie ne fait que commencer à émerger dans le monde réel, ces capacités croissantes – couplées à sa présence 24h/24 et 7j/7 – pourraient avoir de sérieuses implications pour notre vie privée.

Au lieu d'analyser chaque mot que les gens disent, une grande partie de l'intelligence artificielle d'écoute qui a été développée peut en fait apprendre une quantité stupéfiante d'informations personnelles uniquement à partir du son de notre discours. Il peut tout déterminer de qui vous êtes et d'où vous venez, ta location actuelle, votre sexe, votre âge et la langue que vous parlez, tout simplement à cause de la façon dont votre voix sonne lorsque vous parlez.

Si ce n'est pas assez effrayant, d'autres systèmes d'IA audio peuvent détecter si vous mentez, analyser votre état de santé et de forme physique, votre état émotionnel actuel, et si vous êtes en état d'ébriété ou non. Il existe même des systèmes capables de détecter ce que vous mangez lorsque vous parlez la bouche pleine, ainsi que de nombreuses recherches sur le diagnostic des conditions médicales à partir du son.

Les systèmes d'IA peuvent également interpréter avec précision les événements à partir du son en écoutant des détails tels que des accidents de voiture ou des coups de feu, ou des environnements de leur bruit de fond. D'autres systèmes peuvent identifier l'attitude d'un locuteur dans une conversation, capter les messages non prononcés ou détecter les conflits entre les locuteurs. Un autre système d'IA développé l'année dernière peut prédire, juste en écoutant le ton utilisé par un couple lorsqu'il se parlait, s'ils resteront ensemble ou non. Ce sont tous des exemples de la technologie actuelle de l'IA développée dans les laboratoires de recherche du monde entier.

Toutes ces technologies, peu importe ce qu'elles essaient d'apprendre sur vous, utilisent l'apprentissage automatique. Cela implique la formation d'un algorithme avec de grandes quantités de données qui ont été étiquetées pour indiquer quelles informations les données contiennent. En traitant des milliers ou des millions d'enregistrements, l'algorithme commence progressivement à déduire quelles caractéristiques des données - souvent juste de minuscules fluctuations dans le son - sont associées à quelles étiquettes.

Par exemple, un système utilisé pour détecter votre sexe enregistrerait la parole de votre smartphone, et le traiter pour extraire des « caractéristiques » – un petit ensemble de valeurs distinctes qui représentent de manière compacte un enregistrement vocal plus important. Typiquement, les caractéristiques représentent des informations d'amplitude et de fréquence dans chaque période de parole successive de 20 millisecondes. La façon dont ceux-ci fluctuent dans le temps sera légèrement différente pour le discours masculin ou féminin.

Les systèmes d'apprentissage automatique n'examineront pas seulement ces fonctionnalités, mais aussi combien, combien de fois, et de quelle manière les caractéristiques changent au fil du temps. Pendant que l'enregistrement se produit dans le smartphone lui-même, les clips sont envoyés vers des serveurs internet qui vont extraire des fonctionnalités, calculer leurs statistiques, et gérer la partie apprentissage automatique.

L'IA a d'abord été créée pour effectuer des tâches conceptuelles nécessitant normalement une intelligence humaine. À l'heure actuelle, la plupart des systèmes d'IA effectuent des tâches d'analyse et de compréhension, ce qui signifie qu'ils fournissent des informations sur lesquelles les humains peuvent agir, plutôt que d'agir automatiquement.

Par exemple, les systèmes audio AI pour la surveillance des routes peuvent alerter les contrôleurs de la circulation au son d'un accident de véhicule, et l'IA de diagnostic médical audio alerterait un médecin des résultats préoccupants. Mais un humain devrait toujours prendre une décision sur la base des informations qui lui sont fournies par l'IA.

Mais les nouvelles technologies d'IA évoluent. De nombreux systèmes d'IA commencent à dépasser les capacités humaines, avec certains appareils capables même d'agir sans intervention humaine. Amazon Echo et Google Home sont deux exemples d'IA qui ont des capacités de réflexion. Ce type d'IA peut répondre directement aux commandes et peut également agir sur ces commandes, comme lorsque nous demandons à Alexa d'allumer les lumières ou de tirer nos rideaux intelligents.

Alors que la plupart des systèmes d'IA sont aujourd'hui conçus pour aider les gens, entre de mauvaises mains, ces technologies pourraient ressembler davantage à la police de la pensée de George Orwell 1984 . La surveillance audio (et vidéo) permet déjà de détecter nos actions, mais les systèmes d'IA que nous avons mentionnés commencent à détecter ce qui se cache derrière ces actions - ce que nous pensons, même si nous ne le parlons jamais à haute voix.

La plupart des entreprises de technologie disent que leurs appareils ne nous enregistrent pas à moins que nous ne le leur commandions, mais il y a eu des exemples d'Alexa faisant des enregistrements par erreur. Et les chercheurs ont montré qu'il ne faut pas grand-chose pour transformer votre téléphone en un microphone permanent. Ce n'est peut-être qu'une question de temps avant que les annonceurs et les escrocs commencent à utiliser cette technologie pour comprendre exactement comment nous pensons, et cibler nos faiblesses privées.

Des organisations comme le World Privacy Forum, Fight for the Future et l'Electronic Frontier Foundation s'efforcent de garantir aux personnes le droit à la confidentialité des systèmes de détection numérique, ou avoir le droit de se retirer de la surveillance commerciale. En attendant, lors de la prochaine installation d'une application ou d'un jeu sur votre smartphone et qu'il vous demande d'accéder à tous les capteurs de votre appareil, rappelez-vous simplement à quoi vous vous inscrivez potentiellement.

Ces collecteurs de données pourraient apprendre à vous comprendre ainsi que votre ami le plus proche et probablement mieux, parce que votre téléphone voyage partout avec vous, potentiellement écouter chaque son que vous faites. Mais alors que nous pouvons faire confiance à un véritable ami avec notre vie, pouvons-nous en dire autant de ceux qui collectent nos données aujourd'hui ?

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.