Facebook a payé des sous-traitants pour transcrire des clips audio des utilisateurs de son service Messenger, soulevant des problèmes de confidentialité pour une entreprise ayant des antécédents de manquements à la confidentialité.

La pratique était, jusque récemment, courant dans l'industrie de la technologie. Les entreprises affirment que l'utilisation des humains contribue à améliorer leurs services. Mais les utilisateurs ne sont généralement pas conscients que les humains et pas seulement les ordinateurs examinent l'audio.

Les transcriptions effectuées par des humains soulèvent de plus grandes inquiétudes en raison du potentiel d'employés ou d'entrepreneurs malhonnêtes qui divulguent des détails. La pratique de Google est apparue après la fuite de certains de ses extraits audio en néerlandais. Plus de 1, 000 enregistrements ont été obtenus par le diffuseur belge VRT NWS, qui a noté que certaines contenaient des conversations personnelles sensibles, ainsi que des informations permettant d'identifier la personne qui parlait.

"Nous sentons que nous avons un certain contrôle sur les machines, " a déclaré Jamie Winterton, directeur de la stratégie à la Global Security Initiative de l'Arizona State University. "Vous n'avez aucun contrôle sur les humains de cette façon. Il n'y a aucun moyen une fois qu'un humain sait quelque chose de traîner cette donnée dans le bac de recyclage."

Jeffrey Chester, directeur exécutif du groupe de défense de la vie privée du Center for Digital Democracy, a déclaré qu'il était déjà assez grave que Facebook utilise l'intelligence artificielle dans le cadre de ses activités de surveillance des données. Il a déclaré que l'utilisation des humains était également "encore plus alarmante".

Tim Bajarin, chroniqueur technique et président de Creative Strategies, a déclaré que c'est un problème plus important lorsque les humains utilisent l'information au-delà de l'objectif prévu.

Facebook a déclaré que les extraits audio examinés par les sous-traitants étaient masqués afin de ne révéler l'identité de personne. Il a dit qu'il avait arrêté la pratique il y a une semaine. Le développement a été signalé plus tôt par Bloomberg.

Google a déclaré avoir suspendu cette opération dans le monde entier pendant qu'il enquêtait sur les fuites néerlandaises. Amazon a déclaré qu'il utilise toujours des humains, mais les utilisateurs peuvent refuser, ou vous désinscrire, des transcriptions humaines. Les rapports publiés indiquent qu'Apple a également utilisé des humains, mais s'est arrêté. Apple n'a pas immédiatement répondu aux demandes de commentaires.

Un rapport du site d'informations technologiques Motherboard la semaine dernière a déclaré que Microsoft utilisait également des transcripteurs humains avec certaines conversations Skype et des commandes parlées à l'assistant numérique de Microsoft, Cortana. Microsoft a déclaré dans un communiqué qu'il disposait de garanties telles que la suppression des données d'identification et l'exigence d'accords de non-divulgation avec les sous-traitants et leurs employés. Pourtant, des détails ont été divulgués à Motherboard.

Après le rapport de la carte mère, Microsoft a déclaré qu'il "pourrait faire un meilleur travail" expliquant que les humains écoutent les conversations. Il a mis à jour sa foire aux questions pour Skype pour indiquer que l'utilisation du service de traduction "peut inclure la transcription d'enregistrements audio par les employés et les fournisseurs de Microsoft".

Il est logique d'utiliser des transcripteurs humains pour former des systèmes d'intelligence artificielle, dit Winterton. Mais le problème est que les entreprises font croire aux gens que seules les machines écoutent l'audio, provoquant des problèmes de communication et de méfiance, elle a dit.

"Communiquer avec les utilisateurs via votre politique de confidentialité est légal mais pas éthique, " elle a dit.

Les politiques de confidentialité des entreprises, généralement longues, documents denses - permettent souvent d'utiliser les données des clients pour améliorer les produits et services, mais la langue peut être opaque.

"Nous collectons le contenu, communications et autres informations que vous fournissez lorsque vous utilisez nos Produits, y compris lors de la création d'un compte, créer ou partager du contenu, et envoyer un message ou communiquer avec d'autres, " La politique d'utilisation des données de Facebook se lit. Elle ne mentionne pas spécifiquement l'audio ou la voix ni l'utilisation de transcripteurs.

Bajarin a déclaré que les entreprises technologiques doivent utiliser plusieurs méthodes pour affiner les logiciels d'intelligence artificielle, car les assistants vocaux numériques et la technologie voix-texte sont encore nouveaux. Mais il a dit qu'être plus clair sur l'implication humaine est "le moins que" les entreprises puissent faire.

"Ils devraient être très clairs sur leurs politiques et si les messages des consommateurs ou quoi que ce soit d'autre vont être vus, " dit-il. " Si les humains font partie du processus d'analyse, cela doit aussi être indiqué. "

Les régulateurs irlandais de la protection des données disent qu'ils demandent plus de détails à Facebook pour évaluer la conformité avec les réglementations européennes sur les données. La déclaration de l'agence indique qu'elle a également "un engagement continu avec Google, Apple et Microsoft" sur la question, bien qu'Amazon n'ait pas été mentionné.

Facebook fait déjà l'objet d'un examen minutieux pour diverses autres façons dont il a abusé des données des utilisateurs. Il a accepté une amende de 5 milliards de dollars pour régler une enquête de la Federal Trade Commission des États-Unis sur ses pratiques en matière de confidentialité.

© 2019 La Presse Associée. Tous les droits sont réservés.