Lorsqu'un fonds de capital-risque soutenu par la CIA s'est intéressé à la technologie de reconnaissance faciale de Rana el Kaliouby pour détecter les émotions, l'informaticienne et ses collègues ont fait une introspection, puis ont refusé l'argent.

"Nous ne sommes pas intéressés par les applications où vous espionnez les gens, " dit el Kaliouby, le PDG et co-fondateur de la startup bostonienne Affectiva. L'entreprise a entraîné ses systèmes d'intelligence artificielle à reconnaître si les individus sont heureux ou tristes, fatigué ou en colère, en utilisant un référentiel photographique de plus de 6 millions de visages.

Les progrès récents de la vision par ordinateur alimentée par l'IA ont accéléré la course aux voitures autonomes et alimenté les fonctionnalités de marquage photo de plus en plus sophistiquées trouvées sur Facebook et Google. Mais comme ces "yeux" d'IA indiscrets trouvent de nouvelles applications dans les lignes de caisse des magasins, caméras de corps de police et zones de guerre, les entreprises technologiques qui les développent ont du mal à équilibrer les opportunités commerciales avec des décisions morales difficiles qui pourraient décourager les clients ou leurs propres travailleurs.

El Kaliouby a déclaré qu'il n'était pas difficile d'imaginer utiliser la reconnaissance faciale en temps réel pour détecter la malhonnêteté - ou, aux mains d'un régime autoritaire, surveiller la réaction au discours politique afin d'éradiquer la dissidence. Mais la petite entreprise, issu d'un laboratoire de recherche du MIT, a fixé des limites à ce qu'il fera.

L'entreprise a boudé "toute sécurité, aéroport, même des trucs de détection de mensonge, " dit el Kaliouby. Au lieu de cela, Affectiva s'est associé à des constructeurs automobiles pour essayer d'aider les conducteurs fatigués à rester éveillés, et avec les marques grand public qui veulent savoir si les gens réagissent à un produit avec joie ou dégoût.

Un tel malaise reflète de nouveaux scrupules sur les capacités et les abus possibles de tout voir, surveillant toujours les systèmes de caméras IA, même si les autorités sont de plus en plus désireuses de les utiliser.

Immédiatement après la fusillade meurtrière de jeudi contre un journal à Annapolis, Maryland, La police a déclaré qu'elle s'était tournée vers la reconnaissance faciale pour identifier le suspect peu coopératif. Ils l'ont fait en exploitant une base de données de l'État qui comprend des photos d'identité d'anciens détenus et, plus controversée, tous ceux qui se sont inscrits pour un permis de conduire du Maryland.

Les premières informations fournies aux autorités chargées de l'application des lois indiquaient que la police s'était tournée vers la reconnaissance faciale parce que le suspect avait endommagé ses empreintes digitales dans une tentative apparente d'éviter l'identification. Ce rapport s'est avéré incorrect et la police a déclaré avoir utilisé la reconnaissance faciale en raison des retards dans l'identification des empreintes digitales.

En juin, L'aéroport international d'Orlando a annoncé son intention d'exiger des analyses d'identification faciale des passagers sur tous les vols internationaux à l'arrivée et au départ d'ici la fin de cette année. Plusieurs autres aéroports américains ont déjà utilisé de tels scans pour certains, mais pas tout, au départ des vols internationaux.

Les entreprises et les municipalités chinoises utilisent déjà des caméras intelligentes pour faire honte aux promeneurs en temps réel et pour surveiller les minorités ethniques , en soumettant certains à la détention et à l'endoctrinement politique. Plus proche de la maison, les caméras aériennes et les capteurs du nouveau magasin sans caissier d'Amazon à Seattle visent à rendre le vol à l'étalage obsolète en suivant chaque article que les acheteurs ramassent et déposent.

Les inquiétudes concernant la technologie peuvent ébranler même les plus grandes entreprises technologiques. Google, par exemple, a récemment annoncé qu'il se retirerait d'un contrat de défense après que les employés eurent protesté contre l'application militaire de la technologie d'IA de l'entreprise. Le travail consistait à analyser par ordinateur des séquences vidéo de drones en provenance d'Irak et d'autres zones de conflit.

Des inquiétudes similaires concernant les contrats gouvernementaux ont attisé la discorde interne chez Amazon et Microsoft. Google a depuis publié des lignes directrices sur l'IA mettant l'accent sur les utilisations « socialement bénéfiques » et qui évitent les « préjugés injustes ».

Amazone, cependant, a jusqu'à présent détourné la pression croissante des employés et des défenseurs de la vie privée pour arrêter Rekognition, un puissant outil de reconnaissance faciale qu'il vend aux services de police et à d'autres organismes gouvernementaux.

Dire non à certains travaux, bien sûr, signifie généralement que quelqu'un d'autre le fera. Le projet de séquences de drones impliquant Google, surnommé Projet Maven, visait à accélérer le travail de recherche de « modèles de vie, des choses suspectes, indications d'attaques potentielles, " a déclaré Robert Work, un ancien haut responsable du Pentagone qui a lancé le projet en 2017.

Même si ça fait mal de perdre Google parce qu'ils sont "très, très bon à ça, " Le travail a dit, d'autres entreprises poursuivront ces efforts.

L'intérêt commercial et gouvernemental pour la vision par ordinateur a explosé depuis les percées réalisées au début de cette décennie en utilisant un « réseau neuronal » semblable à un cerveau pour reconnaître les objets dans les images. Former des ordinateurs pour identifier les chats dans les vidéos YouTube était un défi au début de 2012. Maintenant, Google a une application pour smartphone qui peut vous dire quelle race.

Une réunion de recherche majeure - la conférence annuelle sur la vision par ordinateur et la reconnaissance de formes, qui s'est tenue à Salt Lake City en juin - est passée d'un rassemblement universitaire endormi de « gens ringards » à une exposition commerciale de la ruée vers l'or attirant de grandes entreprises et des agences gouvernementales, dit Michael Brown, informaticien à l'Université York de Toronto et organisateur de conférences.

Brown a déclaré que les chercheurs se sont vu offrir des emplois bien rémunérés sur place. Mais peu des milliers de documents techniques soumis à la réunion abordent des préoccupations plus larges du public concernant la vie privée, biais ou d'autres dilemmes éthiques. "Nous n'avons probablement pas autant de discussions que nous le devrions, " il a dit.

Les startups tracent leur propre chemin. Brian Brackeen, le PDG de la société de logiciels de reconnaissance faciale Kairos, basée à Miami, a établi une politique générale contre la vente de la technologie aux forces de l'ordre ou à la surveillance du gouvernement, arguant dans un essai récent que cela « ouvre la porte à une faute grave de la part des personnes moralement corrompues ».

La startup Neurala basée à Boston, par contre, développe un logiciel pour Motorola qui aidera les caméras corporelles portées par la police à trouver une personne dans une foule en fonction de ce qu'elle porte et de son apparence. Le PDG Max Versace a déclaré que « l'IA est un miroir de la société, " L'entreprise ne choisit donc que des partenaires de principe.

"Nous ne faisons pas partie de ce totalitaire, schéma orwellien, " il a dit.

© 2018 La Presse Associée. Tous les droits sont réservés.