Facebook a connu quelques mauvaises semaines. Le géant des médias sociaux a dû s'excuser de ne pas avoir protégé les données personnelles de millions d'utilisateurs contre l'accès de la société d'exploration de données Cambridge Analytica. L'indignation se prépare à cause de son admission à espionner les gens via leurs téléphones Android. Son cours boursier a chuté, tandis que des millions de personnes ont supprimé leurs comptes avec dégoût.

Facebook a également fait l'objet d'un examen minutieux pour son incapacité à empêcher la diffusion de « fausses nouvelles » sur ses plateformes, y compris via un effort de propagande russe apparemment orchestré pour influencer l'élection présidentielle américaine de 2016.

Les actions – ou inactions – de Facebook ont ​​facilité les atteintes à la vie privée et aux droits humains associées à la gouvernance démocratique. Mais il se peut que son modèle économique – et ceux de ses pairs des médias sociaux en général – soit tout simplement incompatible avec les droits de l'homme.

Le bon

À certains égards, les médias sociaux ont été une aubaine pour les droits de l'homme, et plus particulièrement pour la liberté d'expression.

Précédemment, le soi-disant "marché des idées" était techniquement accessible à tous (dans les pays "libres"), mais était en réalité dominé par les élites. Alors que tous peuvent également exercer le droit à la liberté d'expression, nous manquions d'une voix égale. Portiers, surtout sous la forme des médias grand public, largement contrôlé la conversation.

Mais aujourd'hui, toute personne ayant accès à Internet peut diffuser des informations et des opinions dans le monde entier. Même si tout ne sera pas écouté, les médias sociaux repoussent les limites de ce qui est dit et reçu en public. Le marché des idées doit effectivement être plus grand et plus large, et plus diversifié.

Les médias sociaux améliorent l'efficacité des mouvements politiques non traditionnels, assemblées publiques et manifestations, en particulier dans les pays qui exercent des contrôles stricts sur les droits civils et politiques, ou avoir de très mauvaises sources d'information.

Les médias sociaux ont joué un rôle majeur dans la coordination des manifestations massives qui ont fait tomber les dictatures en Tunisie et en Égypte, ainsi que de grandes révoltes en Espagne, Grèce, Israël, Corée du Sud, et le mouvement Occupy. Plus récemment, il a facilité la croissance rapide des mouvements #MeToo et #neveragain, entre autres.

Lire la suite :#MeToo n'est pas suffisant :il doit encore corriger les déséquilibres de pouvoir qui entraîneraient l'égalité des genres

Le mauvais et le laid

Mais les machines à « liberté d'expression » des médias sociaux peuvent créer des difficultés en matière de droits de l'homme. Ces voix nouvellement habilitées ne sont pas nécessairement des voix désirables.

L'ONU a récemment découvert que Facebook avait été une plate-forme majeure pour répandre la haine contre les Rohingyas au Myanmar, ce qui à son tour a conduit au nettoyage ethnique et aux crimes contre l'humanité.

Le site de partage de vidéos YouTube semble guider automatiquement les téléspectateurs vers les versions les plus fringales de ce qu'ils pourraient rechercher. Une recherche sur le végétarisme pourrait conduire au véganisme; jogging aux ultra-marathons; la popularité de Donald Trump face aux diatribes de la suprématie blanche ; et Hillary Clinton au véridisme du 11 septembre.

Youtube, via les impacts naturels et probablement involontaires de son algorithme, "peut être l'un des instruments de radicalisation les plus puissants du 21ème siècle", avec toutes les violations des droits humains qui pourraient s'ensuivre.

Le modèle économique et les droits de l'homme

Les violations des droits de l'homme pourraient être intégrées dans le modèle commercial qui a évolué pour les sociétés de médias sociaux au cours de leur deuxième décennie.

Essentiellement, ces modèles reposent sur la collecte et l'utilisation à des fins de marketing des données de leurs utilisateurs. Et les données dont ils disposent sont extraordinaires dans leurs capacités de profilage, et dans la base de connaissances sans précédent et le pouvoir potentiel qu'elle confère à ces acteurs privés.

Une influence politique indirecte est couramment exercée, même dans les démocraties les plus crédibles, par des organismes privés comme les grandes entreprises. Ce pouvoir peut être en partie limité par des « lois antitrust » qui favorisent la concurrence et empêchent une domination indue du marché.

Des mesures antitrust pourraient, par exemple, être utilisé pour séparer Instagram de Facebook, ou YouTube de Google. Mais la puissance de ces entreprises tient essentiellement au nombre même de leurs utilisateurs :fin 2017, Facebook a été signalé comme ayant plus de 2,2 milliards d'utilisateurs actifs. Les mesures antitrust ne visent pas à plafonner le nombre de clients d'une entreprise, contrairement à ses acquisitions.

Pouvoir par la connaissance

En 2010, Facebook a mené une expérience en déployant au hasard un bouton "J'ai voté" non partisan dans 61 millions de flux lors des élections de mi-mandat aux États-Unis. Cette simple action a conduit à 340, 000 voix de plus, ou environ 0,14 % de la population électorale américaine. Ce nombre peut faire basculer une élection. Un échantillon plus important conduirait à encore plus de votes.

Alors Facebook sait déployer le bouton pour faire basculer une élection, ce qui serait clairement lamentable. Cependant, la simple possession de cette connaissance fait de Facebook un acteur politique. Maintenant sait ce bouton est l'impact politique, les types de personnes qu'il est susceptible de motiver, et la partie favorisée par son déploiement et non déploiement , et à quels moments de la journée.

Il peut sembler intrinsèquement incompatible avec la démocratie que ces connaissances soient confiées à un organisme privé. Pourtant, la conservation de ces données est l'essence même de la capacité de Facebook à gagner de l'argent et à gérer une entreprise viable.

Microciblage

Une étude a montré qu'un ordinateur en sait plus sur la personnalité d'une personne que ses amis ou colocataires à partir d'une analyse de 70 "j'aime", et plus que leur famille de 150 likes. A partir de 300 j'aime, il peut surpasser son conjoint.

Cela permet le micro-ciblage des personnes pour les messages marketing - que ces messages commercialisent un produit, un parti politique ou une cause. C'est le produit de Facebook, dont il génère des milliards de dollars. Il permet une publicité extrêmement efficace et la manipulation de ses utilisateurs. C'est le cas même sans les méthodes sournoises de Cambridge Analytica.

La publicité est manipulatrice :c'est son but. Pourtant, c'est une longue révérence que d'étiqueter toute publicité comme une violation des droits de l'homme.

La publicité est accessible à tous ceux qui ont les moyens de payer. Le micro-ciblage sur les réseaux sociaux est devenu un autre champ de bataille où l'argent est utilisé pour attirer des clients et, dans l'arène politique, influencer et mobiliser les électeurs.

Alors que l'influence de l'argent en politique est omniprésente - et probablement intrinsèquement antidémocratique - il semble peu probable que dépenser de l'argent pour déployer des médias sociaux afin de promouvoir un message électoral soit plus une violation des droits de l'homme que d'autres utilisations politiques manifestes de l'argent.

Pourtant, l'échelle et la précision extraordinaires de sa portée manipulatrice pourraient justifier un traitement différent des médias sociaux par rapport aux autres publicités, car ses effets politiques manipulateurs sapent sans doute les choix démocratiques.

Comme pour la collecte de données de masse, peut-être finira-t-on par conclure que cette portée est tout simplement incompatible avec les droits démocratiques et humains.

"Fake news"

Finalement, il y a la question de la propagation de la désinformation.

Bien que la publicité payée ne viole pas les droits de l'homme, les "fake news" faussent et empoisonnent le débat démocratique. C'est une chose que des millions d'électeurs soient influencés par des messages précisément ciblés sur les réseaux sociaux, mais un autre pour les messages malveillants faux pour influencer et manipuler des millions - qu'ils soient payés ou non.

Dans une déclaration sur les fausses nouvelles, plusieurs experts des droits de l'homme de l'ONU et de la région ont déclaré que les fausses nouvelles interféraient avec le droit de savoir et de recevoir des informations, qui fait partie du droit général à la liberté d'expression.

Sa diffusion massive peut également fausser le droit de participer aux affaires publiques. La Russie et Cambridge Analytica (en supposant que les allégations dans les deux cas soient vraies) ont démontré comment les médias sociaux peuvent être « armés » de manière imprévue.

Pourtant, il est difficile de savoir comment les entreprises de médias sociaux devraient traiter les fausses nouvelles. La suppression des fausses nouvelles est la suppression de la parole – un droit humain en soi.

La solution privilégiée décrite dans la Déclaration sur les fausses nouvelles consiste à développer la technologie et la culture numérique pour permettre aux lecteurs d'identifier plus facilement les fausses nouvelles. La communauté des droits de l'homme semble être convaincue que la prolifération de fausses nouvelles sur le marché des idées peut être corrigée par de meilleures idées plutôt que par la censure.

Cependant, on ne peut pas se contenter de supposer qu'un "meilleur discours" triomphe sur les fausses nouvelles. Une étude récente a conclu aux fausses nouvelles sur les réseaux sociaux :« … diffusée beaucoup plus loin, plus rapide, Plus profond, et plus largement que la vérité dans toutes les catégories d'informations."

Aussi, les "bots" Internet diffusent apparemment les vraies et les fausses nouvelles au même rythme, qui indique que :« … les fausses nouvelles se répandent plus que la vérité parce que les humains, pas des robots, sont plus susceptibles de le répandre.

La vérité déprimante est peut-être que la nature humaine est attirée par les fausses histoires plutôt que par les vraies plus banales, souvent parce qu'ils satisfont à des biais prédéterminés, préjugés et désirs. Et les médias sociaux facilitent désormais leur propagation des incendies de forêt à un degré sans précédent.

Peut-être que le but des médias sociaux - la publication et le partage de discours - ne peut que générer un marché déformé et entaché d'idées fausses qui sapent le débat et les choix politiques, et peut-être les droits de l'homme.

Et ensuite ?

Il est prématuré d'affirmer que la collecte même de quantités massives de données est inconciliable avec le droit à la vie privée (et même les droits relatifs à la gouvernance démocratique).

De la même manière, il est prématuré de décider que le micro-ciblage manipule la sphère politique au-delà des limites des droits humains démocratiques.

Finalement, il se peut qu'une meilleure technologie vocale et corrective aide à annuler les impacts négatifs des fausses nouvelles :il est prématuré de supposer que de telles solutions ne fonctionneront pas.

Cependant, au moment où de telles conclusions peuvent être tirées, il est peut-être trop tard pour faire grand-chose. Cela peut être un exemple où la réglementation gouvernementale et le droit international des droits de l'homme – et même le sens aigu des affaires et l'expertise – sont trop en retard sur les développements technologiques pour apprécier leurs dangers pour les droits de l'homme.

Tout au moins, nous devons maintenant sérieusement remettre en question les modèles économiques qui ont émergé des plateformes dominantes de médias sociaux. Peut-être qu'Internet devrait être recâblé à partir de la base, plutôt que de se laisser guider par les besoins commerciaux des oligarques numériques.

Cet article a été initialement publié sur The Conversation. Lire l'article original.