Le géant américain de la technologie Microsoft s'est associé à une université militaire chinoise pour développer des systèmes d'intelligence artificielle qui pourraient potentiellement améliorer les capacités de surveillance et de censure du gouvernement. Deux sénateurs américains ont publiquement condamné le partenariat, mais ce que l'Université de technologie de défense nationale de Chine attend de Microsoft n'est pas la seule préoccupation.

Comme mes recherches le montrent, l'avènement de la répression numérique affecte profondément la relation entre le citoyen et l'État. Les nouvelles technologies dotent les gouvernements de capacités sans précédent pour surveiller, suivre et surveiller les individus. Même les gouvernements des démocraties ayant de fortes traditions d'État de droit sont tentés d'abuser de ces nouvelles capacités.

Dans les États dotés d'institutions irresponsables et de violations fréquentes des droits de l'homme, Les systèmes d'IA causeront très probablement plus de dégâts. La Chine est un exemple frappant. Son leadership a adopté avec enthousiasme les technologies de l'IA, et a mis en place l'État de surveillance le plus sophistiqué au monde dans la province du Xinjiang, suivre les déplacements quotidiens des citoyens et l'utilisation des smartphones.

Son exploitation de ces technologies présente un modèle effrayant pour les autres autocrates et constitue une menace directe pour les sociétés démocratiques ouvertes. Bien qu'il n'y ait aucune preuve que d'autres gouvernements aient reproduit ce niveau de surveillance de l'IA, Les entreprises chinoises exportent activement les mêmes technologies sous-jacentes à travers le monde.

Dépendance croissante des outils d'IA aux États-Unis

Les systèmes d'intelligence artificielle sont partout dans le monde moderne, aider à faire fonctionner les smartphones, moteurs de recherche internet, assistants vocaux numériques et files d'attente de films Netflix. Beaucoup de gens ne réalisent pas à quelle vitesse l'IA se développe, grâce à des quantités toujours croissantes de données à analyser, améliorer les algorithmes et les puces informatiques avancées.

Chaque fois que plus d'informations deviennent disponibles et que l'analyse devient plus facile, les gouvernements sont intéressés – et pas seulement les autoritaires. Aux Etats-Unis., par exemple, les années 1970 ont vu des révélations selon lesquelles des agences gouvernementales - comme le FBI, La CIA et la NSA – avaient mis en place de vastes réseaux de surveillance nationaux pour surveiller et harceler les manifestants des droits civiques, militants politiques et groupes amérindiens. Ces problèmes n'ont pas disparu :la technologie numérique d'aujourd'hui a renforcé la capacité d'encore plus d'agences à mener une surveillance encore plus intrusive.

Par exemple, La police américaine a adopté avec enthousiasme les technologies de l'IA. Ils ont commencé à utiliser des logiciels destinés à prédire où les crimes se produiront pour décider où envoyer des agents en patrouille. Ils utilisent également la reconnaissance faciale et l'analyse ADN dans les enquêtes criminelles. Mais les analyses de ces systèmes montrent que les données sur lesquelles ces systèmes sont formés sont souvent biaisées, conduisant à des résultats injustes, comme déterminer à tort que les Afro-Américains sont plus susceptibles de commettre des crimes que d'autres groupes.

Surveillance de l'IA dans le monde

Dans les pays autoritaires, Les systèmes d'IA peuvent directement encourager le contrôle et la surveillance nationaux, aider les forces de sécurité internes à traiter des quantités massives d'informations - y compris les publications sur les réseaux sociaux, des messages texte, e-mails et appels téléphoniques – plus rapidement et plus efficacement. La police peut identifier les tendances sociales et les personnes spécifiques qui pourraient menacer le régime sur la base des informations découvertes par ces systèmes.

Par exemple, le gouvernement chinois a utilisé l'IA dans des mesures de répression à grande échelle dans des régions qui abritent des minorités ethniques en Chine. Les systèmes de surveillance au Xinjiang et au Tibet ont été décrits comme « orwelliens ». Ces efforts ont inclus des échantillons d'ADN obligatoires, Surveillance du réseau Wi-Fi et caméras de reconnaissance faciale généralisées, le tout connecté à des plateformes intégrées d'analyse de données. A l'aide de ces systèmes, Les autorités chinoises ont, selon le département d'État américain, "détenus arbitrairement" entre 1 et 2 millions de personnes.

Ma recherche porte sur 90 pays à travers le monde avec des types de gouvernement allant des démocraties autoritaires fermées aux démocraties imparfaites, dont la Thaïlande, Turquie, Bangladesh et Kenya. J'ai découvert que les entreprises chinoises exportaient la technologie de surveillance de l'IA dans au moins 54 de ces pays. Souvent, cette technologie est emballée dans le cadre de l'initiative phare de la Chine "la Ceinture et la Route", qui finance un vaste réseau de routes, les chemins de fer, des pipelines d'énergie et des réseaux de télécommunications desservant 60 % de la population mondiale et des économies qui génèrent 40 % du PIB mondial.

Par exemple, Des entreprises chinoises comme Huawei et ZTE construisent des « villes intelligentes » au Pakistan, les Philippines et le Kenya, doté d'une technologie de surveillance intégrée étendue. Par exemple, Huawei a équipé Bonifacio Global City aux Philippines de caméras connectées à Internet haute définition qui fournissent « une surveillance de sécurité intelligente 24h/24 et 7j/7 avec analyse de données pour détecter les délits et aider à gérer le trafic ».

Hikvision, Yitu et SenseTime fournissent des caméras de reconnaissance faciale de pointe pour une utilisation dans des endroits comme Singapour - qui a annoncé la mise en place d'un programme de surveillance avec 110, 000 caméras montées sur des lampadaires autour de la cité-état. Le Zimbabwe est en train de créer une base de données nationale d'images pouvant être utilisée pour la reconnaissance faciale.

Cependant, vendre des équipements de pointe à des fins lucratives est différent du partage de technologies dans un but géopolitique explicite. Ces nouvelles capacités pourraient semer les graines d'une surveillance mondiale :alors que les gouvernements deviennent de plus en plus dépendants de la technologie chinoise pour gérer leurs populations et maintenir leur pouvoir, ils seront confrontés à une pression accrue pour s'aligner sur l'agenda de la Chine. Mais pour l'instant, il semble que la principale motivation de la Chine soit de dominer le marché des nouvelles technologies et de gagner beaucoup d'argent dans le processus.

IA et désinformation

En plus de fournir des capacités de surveillance à la fois larges et fines, L'IA peut aider les gouvernements répressifs à manipuler les informations disponibles et à répandre la désinformation. Ces campagnes peuvent être automatisées ou assistées par automatisation, et déployer des messages hyper-personnalisés dirigés vers – ou contre – des personnes ou des groupes spécifiques.

L'IA sous-tend également la technologie communément appelée « deepfake, " dans lequel les algorithmes créent des contrefaçons vidéo et audio réalistes. Brouiller les eaux entre la vérité et la fiction peut devenir utile dans une élection serrée, lorsqu'un candidat pouvait créer de fausses vidéos montrant un adversaire faisant et disant des choses qui ne se sont jamais produites.

À mon avis, les décideurs politiques dans les démocraties devraient réfléchir attentivement aux risques des systèmes d'IA pour leurs propres sociétés et pour les personnes vivant sous des régimes autoritaires dans le monde entier. Une question cruciale est de savoir combien de pays adopteront le modèle chinois de surveillance numérique. Mais ce ne sont pas seulement les pays autoritaires qui ressentent l'attraction. Et ce ne sont pas seulement les entreprises chinoises qui diffusent la technologie :de nombreuses entreprises américaines, Microsoft inclus, mais IBM, Cisco et Thermo Fisher aussi, ont fourni des capacités sophistiquées à des gouvernements méchants. L'utilisation abusive de l'IA ne se limite pas aux États autocratiques.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.