Le journaliste britannique James O'Malley était dans le train à grande vitesse Pékin-Shanghai le mois dernier lorsqu'il a entendu une annonce inquiétante.

"Chers passagers, les personnes qui voyagent sans billet, ou se comporter de manière désordonnée, ou fumer dans les lieux publics, sera puni conformément à la réglementation et le comportement sera enregistré dans le système d'information de crédit individuel. Pour éviter un enregistrement négatif de crédit personnel, veuillez suivre les réglementations en vigueur et aider avec les commandes dans le train et à la gare."

C'était particulièrement effrayant pour quiconque connaissant le classique dystopique de George Orwell, 1984 .

En effet, ce qui a dérangé James, c'est le système de crédit social de style Big Brother largement discuté et sévèrement critiqué en Chine. Mais avant de s'emballer 1984 , obtenons un aperçu plus complet du système, y compris certains aspects mal compris ou moins discutés.

Une mesure de fiabilité

Le système est décrit par certains médias comme un système de surveillance des mégadonnées qui vise à surveiller, évaluer, et la discipline sociale des citoyens, politique, et comportement économique.

Il a été mentionné pour la première fois en 2014 dans un document gouvernemental (en chinois) publié par le Conseil d'État, l'organe exécutif le plus élevé du pouvoir d'État en République populaire de Chine. Le document décrivait un système de crédit social omnipotent qui devait être lancé en 2020, qui vise à évaluer la « fiabilité » de chacun.

Le « crédit » mentionné dans l'annonce troublante du train est la traduction du mot chinois « xinyong, ' qui indique l'honnêteté et la fiabilité d'une personne.

On pense que le système implique une série de mégadonnées et de processus activés par l'IA qui calculent le comportement d'un individu, de l'achat en ligne à l'obéissance au code de la route, paiements de factures à temps, ou votre choix d'amis.

Voici une vision dystopique du futur :Une vraie annonce que j'ai enregistrée sur le train à grande vitesse Pékin-Shanghai. (Je l'ai sous-titré pour que vous puissiez regarder en silence.) pic.twitter.com/ZoRWtdcSMy

– James O'Malley (@Psythor) 29 octobre 2018

Des scores élevés engendrent des privilèges sociaux

Tous les 1,35 milliard de citoyens chinois seront soumis au système. Les personnes ayant des scores élevés bénéficieront de meilleurs privilèges sociaux et avantages économiques. De faibles scores en revanche, pourrait vous empêcher d'accéder à certains services, comme les vols ou les voyages en train – tout comme James l'a entendu dans le train.

Le potentiel d'abus et la probabilité d'une mauvaise manipulation personnelle, les données privées attirent facilement l'attention du public à l'ère sensible des données d'aujourd'hui.

Les données entre les mains d'un gouvernement autoritaire comme la Chine deviennent une prophétie auto-réalisatrice, qui illustre de manière frappante comment la technologie numérique aide les régimes autoritaires à renforcer leur pouvoir et à se maintenir en faisant pression sur leurs citoyens pour qu'ils agissent de certaines manières approuvées par le gouvernement (pour des scores de crédit social plus élevés dans ce cas).

Un travail en cours

Cependant, de nombreuses préoccupations concernant le système de crédit social sont soit inexactes, soit unilatérales.

Pour une chose, le gouvernement chinois n'a pas encore annoncé officiellement le fonctionnement du système de crédit, comprenant, probablement le plus important, comment la notation de crédit algorithmique sera amassée et les différentes qualités pondérées les unes par rapport aux autres.

Certains ont tendance à considérer le très médiatisé « Crédit Sésame » (« Zhima Xinyong » en chinois), un système de crédit privé exploité par Ant Financial, une entreprise affiliée au géant chinois du commerce électronique Alibaba, comme exemple d'un tel système de surveillance de masse.

Avec ses 520 millions d'utilisateurs, Sesame Credit est à coup sûr le leader actuel de l'industrie du « crédit social » en Chine. Toujours, il s'agit essentiellement d'évaluer le volume d'achat et le prix des biens achetés, plutôt que le contenu des achats. Pour reprendre l'explication d'une porte-parole d'Ant Financial, "C'est essentiellement la fréquence qui compte, ce n'est pas ce que vous achetez qui compte."

Cocaïne ou gâteau :le système ne se soucie pas de ce que vous achetez

Pour être franc, Sesame Credit ne se soucie pas de savoir si l'utilisateur achète de la cocaïne ou du gâteau; il veut simplement vendre des produits. Votre score augmentera tant que vous achetez quelque chose chez Alibaba.

Comme il s'avère, Le Crédit Sésame est plus un programme de fidélité qu'une mesure fiable du « xinyong » ou du « crédit ».

Croire que Sesame Credit fonctionnerait comme une « version bêta » approuvée par l'État d'un système de crédit social risque d'exagérer l'utilisation d'un suivi de données et d'informations inexacts pour offrir des récompenses et des sanctions. Cela montre en outre le défi de compiler les données nécessaires et suffisantes qui couvrent tous les aspects de la vie sociale pour servir de référence utile dans l'établissement d'un système de crédit social unique et panoptique à l'échelle nationale.

Pour reprendre l'argument de Jamie Horsley dans Foreign Policy, « Le pointage de crédit social orwellien de la Chine n'est pas réel… Il n'existe pas de « pointage de crédit social » national. »

Les entreprises seront également notées

Outre les implications politiques (négatives) du système de crédit social en cours, nous devrions également considérer l'implication économique d'un tel système.

Selon le document gouvernemental de 2014, l'une des initiatives du système de crédit est de noter non seulement les individus mais aussi les organisations et les entreprises afin de « favoriser la croissance économique » et « d'accroître la crédibilité du gouvernement ».

Le gouvernement chinois connaît depuis longtemps la pénurie de données de crédit commercial et à la consommation. La Banque populaire de Chine - la banque centrale - gère le seul système officiel de notation de crédit du pays, et en 2017, il ne dessert qu'environ 300 millions de personnes, ou moins de 25 pour cent de la population totale en Chine.

En d'autres termes, trois citoyens chinois sur quatre n'ont pas d'historique de crédit accessible au public. Par contre, plus de 80 pour cent de la population adulte aux États-Unis a une cote de crédit, selon le Bureau de la protection financière des consommateurs.

Le système pourrait stimuler l'investissement et l'emprunt

Dans le système actuel, de nombreux consommateurs chinois – en particulier la jeune génération avec un pouvoir d'achat et un potentiel de consommation plus élevés – ont du mal à investir ou à emprunter de l'argent à la banque. Des règles strictes dans la plupart des banques interdisent à la majorité des étudiants collégiaux et universitaires et aux nouveaux diplômés de faire une demande de carte de crédit.

De la même manière, petites et moyennes entreprises (PME), qui représentent plus de 80 pour cent des emplois dans le pays, toujours du mal à obtenir des prêts des institutions financières chinoises, indépendamment de la pression du gouvernement.

Le manque d'informations sur le crédit met l'incitation à prêter de l'argent aux petites entreprises en conflit direct avec l'effort de réduction des risques dans le système financier. Cela entrave à son tour la consommation intérieure, un facteur inquiétant au milieu du ralentissement de l'économie chinoise qui se détériorerait davantage dans la guerre commerciale en cours entre les États-Unis et la Chine.

Un système de crédit à l'échelle nationale, dans ce sens, permettrait aux emprunteurs responsables d'avoir accès à une marge de crédit. Il ne servira pas seulement les banquiers chinois, mais a également des effets constructifs sur les réalités économiques des particuliers et des entreprises et sur l'ensemble de l'économie chinoise à long terme.

Cette histoire est republiée avec l'aimable autorisation de ScienceNordic, la source de confiance pour les nouvelles scientifiques en anglais des pays nordiques. Lisez l'histoire originale ici.