Le géant de la technologie Google veut votre visage, surtout si vous avez la "peau plus foncée".
Pour l'obtenir, la société a financé un projet de reconnaissance faciale qui cible les personnes de couleur avec des tactiques douteuses, plusieurs sources ayant une connaissance directe du projet ont déclaré au New York Daily News.
L'objectif de l'entreprise est de constituer une base de données extrêmement diversifiée, ostensiblement, des produits tels que les fonctionnalités biométriques de son prochain smartphone Pixel 4 ne souffrent pas de préjugés raciaux.
Autrefois, La technologie de reconnaissance faciale a notoirement eu du mal à identifier les personnes à la peau plus foncée.
Google veut éviter cet écueil, à tel point que cela a payé d'avoir des intérimaires embauchés pour collecter des scans du visage d'une variété de personnes dans la rue en utilisant des cartes-cadeaux de 5 $ comme incitation.
Un porte-parole de Google a reconnu l'objectif de la collecte de données.
« Nous menons régulièrement des études de recherche volontaires. Pour les études récentes impliquant la collecte d'échantillons de visage pour la formation en apprentissage automatique, il y a deux buts. D'abord, nous voulons intégrer l'équité dans la fonction de déverrouillage du visage du Pixel 4. Il est essentiel que nous ayons un échantillon diversifié, qui est une partie importante de la construction d'un produit inclusif, ", a déclaré le porte-parole.
"Et deuxieme, Sécurité. Le déverrouillage du visage du Pixel 4 sera une nouvelle mesure de sécurité puissante, et nous voulons nous assurer qu'il protège le plus grand nombre de personnes possible. "
Mais plusieurs personnes qui ont travaillé pour le projet ont parlé au Daily News dans de longues interviews et ont déclaré que l'appétit vorace de Google pour les données avait conduit à des méthodes douteuses et trompeuses.
Ils ont dit que des équipes avaient été envoyées pour cibler les sans-abri à Atlanta, des étudiants sans méfiance sur les campus universitaires aux États-Unis et des participants aux festivités des BET Awards à Los Angeles, entre autres lieux.
Les travailleurs connus sous le nom de Google TVC, un acronyme pour désigner les intérimaires, vendeurs ou sous-traitants - ont déclaré au Daily News qu'ils étaient payés par l'intermédiaire d'une société d'emploi tierce appelée Randstad.
Ils ont déclaré que les chefs de projet de Randstad avaient spécifiquement dit aux TVC de s'en prendre aux personnes de couleur, cacher le fait que les visages des gens étaient enregistrés et même mentir pour maximiser leurs collectes de données.
Certains ont été invités à collecter les données du visage en caractérisant le scan comme un "jeu de selfie" similaire à Snapchat, ils ont dit.
L'un d'eux a dit que les travailleurs devaient dire des choses comme :"Il suffit de jouer avec le téléphone pendant quelques minutes et d'obtenir une carte-cadeau, " et, "Nous avons une nouvelle application, essayez-le et obtenez 5 $."
Les sources ont déclaré qu'un superviseur de Randstad leur avait demandé de ne pas dire aux sujets qu'ils étaient enregistrés.
"On nous a dit de ne pas dire (aux gens) que c'était une vidéo, même si cela indiquait à l'écran qu'une vidéo a été prise, " a déclaré une source, ajoutant que la vidéo de chaque utilisateur était stockée sous le profil de chaque TVC et examinée périodiquement lors des réunions de performance.
« Si la personne regardait cet écran une fois la tâche terminée, et dis, 'Oh, prenait-il une vidéo ?' ... on nous a demandé de dire :'Oh ce n'est pas vraiment, '", a déclaré la source.
Les TVC ont été encouragés à précipiter les sujets à travers des questions d'enquête et un accord de consentement et à se retirer si les gens commençaient à devenir méfiants, ont dit les travailleurs pour compte d'autrui.
"L'un des jours de formation consistait essentiellement à créer un vocabulaire qui distrait autant que possible l'utilisateur de la tâche à accomplir, " a déclaré l'un des anciens travailleurs au Daily News.
"L'expression 'mini-jeu' a été beaucoup évoquée, ", a déclaré l'ancien membre du personnel qui travaillait à Los Angeles.
"C'était beaucoup de surcharge sensorielle fondamentalement de la personne pour qu'elle le fasse le plus rapidement possible et la distrait autant que possible afin qu'elle n'ait même pas vraiment le temps de réaliser ce qui se passait, " il a dit.
"En gros, distrayez-les et dites n'importe quoi. 'Allez-y et appuyez sur le bouton suivant. Ne vous inquiétez même pas pour ça.' Ce genre de choses. Vraiment, déplacez-le. "Allons-y. Appuyez sur tous les boutons suivants, ' " dit l'ancien intérimaire, claquant des doigts pour mettre l'accent.
Google a déjà reconnu avoir envoyé des personnes demander des analyses volontaires en échange de cartes-cadeaux de 5 $.
ZDNet a rapporté en juillet qu'un homme a été approché par quelqu'un à New York et a demandé de vendre son visage à Google pour 5 $. L'homme a déclaré qu'on lui avait dit que l'analyse serait utilisée pour "améliorer la prochaine génération de déverrouillage des téléphones à reconnaissance faciale".
Un porte-parole de Google a déclaré plus tard à TheVerge que la société collectait des données par le biais de "recherches sur le terrain" pour créer sa fonction de reconnaissance faciale "avec une sécurité et des performances robustes".
S'adressant au Daily News, les personnes qui ont travaillé sur le projet à Los Angeles ont déclaré qu'elles étaient encouragées par Randstad à se considérer comme des embauches potentielles à temps plein chez Google s'ils atteignaient leur quota quotidien de scans 3D du visage.
Alors que Randstad gérait les opérations quotidiennes, les embauchés ont déclaré qu'ils avaient des cartes d'identité pour les faire entrer au siège de Google à Venice Beach.
Administrateurs Google, pendant ce temps, ont participé à des conférences téléphoniques régulières et ont participé à de nombreux aspects de la collecte et de l'examen des données, y compris le mandat de s'attaquer aux « teints de peau plus foncés, ", ont déclaré les sources.
Un ancien employé a déclaré que Randstad avait envoyé une équipe à Atlanta "spécifiquement" pour cibler les Noirs là-bas, y compris les sans-abri noirs.
"Ils ont dit de cibler les sans-abri parce qu'ils sont les moins susceptibles de dire quoi que ce soit aux médias, " a déclaré l'ex-employé. "Les sans-abri ne savaient pas du tout ce qui se passait."
Un responsable de Google qui participait fréquemment à des conférences téléphoniques avec les équipes était au courant du voyage, même s'il n'était pas à portée de voix lorsque les TVC ont été invités à s'attaquer aux sans-abri, a déclaré l'ancien employé au Daily News.
Le directeur a parlé aux TVC qui se rendaient à Atlanta et a souligné que la société « essaie de cibler les personnes à la peau plus foncée, ", a déclaré l'ex-embauche.
Un autre ancien de TVC a déclaré que les membres de l'équipe en Californie avaient été spécifiquement informés qu'ils pouvaient attirer des sujets à court d'argent en mentionnant une loi de l'État qui stipule que les cartes-cadeaux de moins de 10 $ peuvent être échangées contre de l'argent.
"Ils nous ont même dit, 'S'ils n'aiment pas le café ou quelque chose comme ça, vous pourriez dire aux sans-abri que vous pouvez échanger la carte-cadeau contre 5 $ en espèces, ' ", a déclaré l'ancien membre de l'équipe.
"Ils étaient très conscients de toutes les façons dont vous pouviez inciter une personne et vraiment se concentrer sur le contexte de la personne pour la rendre presque irrésistible."
L'ancien TVC a déclaré que les campus universitaires étaient considérés comme "la mine d'or ou la licorne" parce que les jeunes étudiants vivent généralement avec des budgets serrés et répondent aux cartes-cadeaux.
Le Daily News a rencontré deux TVC collectant des données dans un salon d'étude à l'intérieur de la bibliothèque principale de la California State University, Long Beach le 28 août.
Portant des sacs à dos et ressemblant à des étudiants eux-mêmes, les deux hommes ont marché de table en table en offrant des cartes-cadeaux Starbucks de 5 $ en échange de scans du visage en 3D que plusieurs étudiants ont dit plus tard qu'ils n'avaient pas réalisé qu'ils vendaient.
"Tournez votre visage en cercle... Parfait !" l'un d'eux, des hommes vêtus d'un t-shirt bleu et blanc, a déclaré à une étudiante qui a passé moins de deux minutes avec le téléphone avant de recevoir sa carte-cadeau de 5 $.
"Oh mon Dieu, ils ont mon visage, " Première année Jenile Ho, 18, a déclaré au Daily News lorsqu'on lui a demandé plus tard si elle savait que son visage était scanné.
"Je sais qu'il a dit Android. Je n'ai rien entendu à propos de Google, " a-t-elle affirmé.
"Ils ont dit qu'ils voulaient que nous testions un nouveau téléphone, un androïde. J'ai mis mon email. Mon gars m'a dit de tout faire très vite. Il a continué à dire, « Appuyez sur suivant et téléchargez. Ensuite et téléchargez.' Je pensais qu'ils étaient étudiants. Nous sommes nouveaux ici et essayons de nous faire des amis, " elle a dit.
« Devrais-je changer de visage ? » demanda Ho en riant nerveusement. "Je viens d'entendre Starbucks et j'ai dit, 'D'ACCORD.' "
Une autre étudiante a déclaré qu'elle ne se souvenait pas non plus d'avoir entendu parler de Google.
"Ils ont juste dit, « Voulez-vous participer à un sondage ? Nous vous offrirons une carte-cadeau Starbucks, ' " Kelly Yam, 18, mentionné.
"Nous devions suivre un point avec notre nez. J'ai fait l'action de tenir le téléphone devant mon visage. Peut-être que la prochaine fois je serai plus conscient. J'ai surtout été tenté par la carte-cadeau, " elle a dit.
"Ils ont dit que c'était un sondage et nous pensions qu'ils étaient étudiants. Je ne pense même pas avoir réalisé qu'il y avait un formulaire de consentement, " elle a dit.
D'autres étudiants de la bibliothèque ont déclaré se rappeler que des personnes se promenaient avec un gros téléphone et distribuaient les cartes-cadeaux Starbucks de 5 $ au même endroit à la fin du semestre de printemps.
Deon Williams, un étudiant noir, a déclaré qu'un gars avec le téléphone s'est dirigé vers son groupe d'étude vers le mois de mai.
"Je l'ai regardé quand il s'est approché de moi, Comme, qui est ce gars? Il s'est vraiment rapproché, " Williams, 23, a déclaré au Daily News.
"Il m'a demandé si je voulais obtenir une carte gratuite de 5 $ en faisant des analyses de données. Ils n'ont pas dit que c'était un scan. Je pensais juste au Starbucks. J'ai mis un faux e-mail, " il a dit.
"Nous avons demandé pour qui ils travaillaient avant que quelqu'un ne le fasse. Ils ont dit que c'était quelque chose lié à Google, " a-t-il rappelé.
Être "très arrogant" fait partie du travail, le TVC toujours sur le projet le mois dernier a déclaré.
"J'ai l'impression qu'ils voulaient que nous nous attaquions aux faibles, ", a déclaré l'employé.
Part of the rushing was meant to keep subjects from reading the consent form that must be clicked for the scan to be counted, the TVC said.
An image of the agreement shared with the Daily News appeared to give Google vast leeway with the face data.
It said Google could keep the scans "as long as needed to fulfill the purposes which is expected to be about five years."
It also gave Google the right to "aggregate the research data" in a way that makes subjects anonymous, and "there is no limit to how long or in what manner Google may retain, use or share the aggregate data."
Perhaps most unsettling, the consent agreement gave Google the right to "retain, use or share nonpersonally identifying or aggregate data without limitation for any purpose, " and said the data could be processed "outside the country, " including places "where you may have fewer rights."
One of the ex-TVCs called the consent form particularly "troubling."
"This could be a companywide data set that could be used for anything, " the former staffer said.
Jacob Snow, a technology and civil liberties attorney at the ACLU of Northern California, said the project tactics revealed to the Daily News were cause for concern.
He said the new California Consumer Privacy Act, set to take effect next year, will require businesses collecting data to explicitly inform people about the purposes for which the data would be used.
En attendant, businesses still must comply with Section 5 of the Federal Trade Commission Act, which prohibits deceptive conduct in the marketplace, il a dit.
"Privacy is a fundamental right, not a privilege for people who can afford it. Google should know that not being evil means not harvesting information from society's most vulnerable. The idea that people truly consented, through a process that was apparently rushed and misleading, is pure fiction, " Snow told the Daily News.
He called it "a complicated legal question" when asked if Google could be held liable for the conduct reported to the Daily News.
"It is not impossible for the actions of a contractor to be imputed to the company contracting with that entity under the law, " il a dit.
A list of specific questions sent to Google about its methods went unanswered, but the company acknowledged it needs to train its facial recognition machine to work on all kinds of facial features and that it's investigating the Daily News' claims of dubious tactics.
Randstad acknowledged it received a Daily News email requesting comment but did not respond by deadline.
©2019 New York Daily News
Distribué par Tribune Content Agency, LLC.
