Les cryptographes aiment une énigme, un problème à résoudre - et celui-ci a tout pour plaire. Codes indestructibles, notes secrètes, chiffrement et déchiffrement.

Voici le casse-tête :quelqu'un veut envoyer un message sécurisé en ligne. Il doit être si privé, si secret, qu'ils peuvent nier l'avoir jamais envoyé. Si quelqu'un divulgue le message, il ne pourra jamais être retracé jusqu'à l'expéditeur. C'est très Mission :Impossible. Mais il y a un hic :si ce message colporte des abus ou de la désinformation, menace peut-être de violence, alors l'anonymat devra peut-être être ignoré ; l'expéditeur doit être tenu pour responsable.

Et c'est là le défi :existe-t-il un moyen de permettre aux gens d'envoyer des messages confidentiels, sécurisés et introuvables, tout en traquant les messages menaçants ?

Mayank Varia aurait peut-être résolu l'énigme. Cryptographe et informaticienne, Varia est une experte de l'impact sociétal des algorithmes et des programmes, développant des systèmes qui équilibrent la confidentialité et la sécurité avec la transparence et la justice sociale. En collaboration avec une équipe d'informaticiens de l'université de Boston, il a conçu un programme appelé Hécate, nommé d'après l'ancienne déesse grecque de la magie et des sorts, qui peut être intégré à une application de messagerie sécurisée pour renforcer sa confidentialité, tout en permettant aux modérateurs de craquer vers le bas sur l'abus. L'équipe présente ses conclusions au 31e Symposium USENIX sur la sécurité.

"Notre objectif en cryptographie est de créer des outils et des systèmes qui permettent aux gens de faire des choses en toute sécurité dans le monde numérique", déclare Varia, professeur associé à la Faculté d'informatique et des sciences des données de la BU. "La question en jeu dans notre article est de savoir quel est le moyen le plus efficace de mettre en place un mécanisme de signalement des abus :le moyen le plus rapide et le plus efficace de fournir les garanties de sécurité les plus solides et d'en fournir le moins possible ?"

C'est une approche qu'il applique également au-delà des applications de messagerie, en créant des outils en ligne qui permettent aux gouvernements locaux de suivre les écarts salariaux entre les sexes, sans accéder aux données salariales privées, et permettent aux victimes d'agressions sexuelles de signaler leurs agresseurs de manière plus sûre.

Tout est niable

Lorsque deux personnes discutent dans une pièce privée, ce dont elles parlent est juste entre elles - il n'y a pas de trace écrite, pas d'enregistrement; la conversation ne vit que dans la mémoire. Mettez la même conversation en ligne (Twitter, Facebook, e-mail) et c'est une autre histoire. Chaque mot est conservé pour l'histoire. Parfois c'est bien, mais tout aussi souvent ce n'est pas le cas. Un militant dans un État autoritaire essayant de faire passer un message à un journaliste ou à un patient cherchant de l'aide pour un problème de santé privé pourrait ne pas vouloir que ses propos soient diffusés dans le monde ou conservés dans des archives.

C'est là qu'intervient le chiffrement de bout en bout. Popularisé par des applications comme WhatsApp et Signal, il brouille les messages envoyés dans un format illisible, ne les déchiffrant que lorsqu'ils atterrissent sur le téléphone du destinataire. Cela garantit également que les messages envoyés d'une personne à une autre ne peuvent pas être retracés jusqu'à l'expéditeur; tout comme ce chat privé en personne, il s'agit d'une conversation sans trace ni enregistrement :tout est indéniable.

"Le but de ces systèmes de messagerie déniables est que même si mon téléphone est compromis après que nous ayons eu une conversation de messagerie cryptée, il n'y a pas de fil d'Ariane numérique qui permettra à une personne externe de savoir avec certitude ce que nous avons envoyé ou même qui l'a dit, " dit Varia.

Amnesty International qualifie le cryptage de droit humain, affirmant qu'il s'agit d'une "protection essentielle des droits [de chacun] à la vie privée et à la liberté d'expression", et particulièrement vitale pour ceux qui luttent contre la corruption ou défient les gouvernements. Cependant, comme beaucoup dans le monde en ligne, cette confidentialité peut être exploitée ou pliée à des fins plus sinistres. "Il y a des moments précis où cela peut être une mauvaise chose", explique Varia. "Supposons que les messages que quelqu'un envoie soient harcelants et abusifs et que vous vouliez aller chercher de l'aide, vous voulez être en mesure de prouver au modérateur quel était le contenu du message et qui vous l'a dit."

Une étude sur des élèves du primaire, du collège et du lycée en Israël, où plus de 97 % des enfants utiliseraient WhatsApp, a révélé que 30 % avaient été victimes d'intimidation sur l'application, tandis que les procureurs britanniques ont déclaré que le chiffrement de bout en bout pourrait nuire à leur capacité. pour attraper et arrêter les agresseurs d'enfants. Des groupes extrémistes, de l'État islamique aux terroristes nationaux, se sont appuyés sur des applications cryptées comme Telegram et Signal pour diffuser leurs appels à la violence.

La tâche des entreprises technologiques est de trouver un moyen de soutenir le droit à la vie privée avec le besoin de responsabilité. Hecate offre un moyen de faire les deux :elle permet aux utilisateurs de l'application de nier qu'ils ont déjà envoyé un message, mais également d'être signalés s'ils disent quelque chose d'abusif.

Un message à l'encre invisible

Développé par Varia et les doctorants Rawane Issa et Nicolas Alhaddad, Hecate commence par le côté responsabilité de cette combinaison contradictoire déniable et traçable. À l'aide du programme, le modérateur d'une application crée un lot unique de signatures électroniques, ou jetons, pour chaque utilisateur. Lorsque cet utilisateur envoie un message, un jeton caché accompagne le trajet. Si le destinataire décide de signaler ce message, le modérateur pourra vérifier le jeton de l'expéditeur et prendre des mesures. C'est ce qu'on appelle l'affranchissement asymétrique des messages.

La sécurité intégrée, dit Varia, la partie qui permet le déni, est que le jeton n'est utile qu'au modérateur.

"Le jeton est une déclaration cryptée que seul le modérateur sait lire - c'est comme s'il écrivait un message à l'encre invisible à son futur moi", explique Varia. "Le modérateur est celui qui construit ces jetons. C'est la partie astucieuse de notre système :même si le modérateur devient un voyou, il ne peut pas montrer et convaincre le reste du monde - il n'a aucune preuve numérique, aucun fil d'Ariane qu'il peut montrer. à quelqu'un d'autre."

L'utilisateur peut maintenir le déni, au moins publiquement.

Des systèmes d'affranchissement de messages similaires existent déjà - la société mère de Facebook, Meta, en utilise un sur WhatsApp - mais Varia affirme qu'Hecate est plus rapide, plus sûr et à l'épreuve du temps, contrairement aux programmes actuels.

"Hecate est le premier système d'affranchissement de messages qui permet simultanément une exécution rapide sur un téléphone et pour le serveur modérateur, la prise en charge du transfert de messages et la compatibilité avec les réseaux de communication anonymes comme l'expéditeur scellé de Signal", explique Varia. "Les constructions précédentes atteignaient au plus deux de ces trois objectifs."

L'impact civique des algorithmes

L'équipe affirme qu'Hecate pourrait être prêt à être mis en œuvre sur des applications telles que Signal et WhatsApp avec seulement quelques mois de développement et de tests personnalisés. Mais malgré ses avantages technologiques, Varia suggère aux entreprises d'aborder Hecate avec prudence jusqu'à ce qu'elles aient pleinement étudié son impact potentiel sur la société.

"Il y a une question de savoir si nous pouvons construire ceci, il y a aussi une question de savoir si nous devons construire cela?" dit Varia. "Nous pouvons essayer de concevoir ces outils qui offrent des avantages en matière de sécurité, mais il pourrait y avoir des dialogues et des discussions plus longs avec les communautés concernées. Atteignons-nous la bonne notion de sécurité pour, disons, le journaliste, le dissident, les personnes harcelées en ligne ?"

En tant que responsable du Hub for Civic Tech Impact de CDS, Varia a l'habitude de tenir compte des implications sociétales et politiques de ses recherches. L'objectif du hub est de développer des logiciels et des algorithmes qui font progresser l'intérêt public, qu'ils aident à lutter contre la désinformation ou à favoriser une transparence accrue du gouvernement. Un thème récurrent dans les projets récents est la création de programmes qui, comme Hecate, chevauchent la frontière entre la confidentialité et la responsabilité.

Lors d'un récent partenariat avec le Boston Women's Workforce Council, par exemple, des informaticiens de la BU ont mis au point un calculateur d'écart salarial entre les sexes qui permet aux entreprises de partager les salaires avec la ville sans laisser les données de rémunération sensibles quitter leurs serveurs.

"Nous concevons des outils qui permettent aux gens - cela semble contre-intuitif - de calculer des données qu'ils ne peuvent pas voir", explique Varia, qui est membre du Comité consultatif du gouvernement fédéral sur les données pour la constitution de preuves. "Peut-être que je veux vous envoyer un message, mais je ne veux pas que vous le lisiez ; c'est bizarre, mais peut-être que nous sommes nombreux à envoyer des informations et nous voulons que vous puissiez faire des calculs dessus."

Cela a suscité l'intérêt de la Defense Advanced Research Projects Agency et du Naval Information Warfare Center, qui ont tous deux financé les travaux qui ont conduit à Hécate et ont intérêt à demander à des experts en informatique de traiter des données sans jamais voir les secrets qui s'y cachent.

L'approche de Varia en matière de cryptage pourrait également profiter aux victimes d'abus sexuels. Il s'est récemment associé à Callisto, une organisation à but non lucratif basée à San Francisco, pour développer un nouveau système sécurisé de signalement des agressions sexuelles. Inspiré du mouvement #MeToo, son objectif est d'aider les victimes d'agression qui ont peur de se manifester.

"Ils signalent leur cas d'agression sexuelle dans notre système et ce rapport disparaît en quelque sorte dans l'éther", explique Varia. "Mais si quelqu'un d'autre signale également avoir été agressé par le même agresseur, alors, et alors seulement, le système identifie l'existence de cette correspondance."

Ces informations sont transmises à un avocat bénévole, lié par le secret professionnel de l'avocat, qui peut ensuite travailler avec les victimes et les survivants sur les prochaines étapes. Tout comme Hécate, Varia affirme trouver un équilibre entre confidentialité et ouverture, entre déni et traçabilité.

"Lorsque nous parlons de compromis entre la vie privée, les libertés civiles numériques et d'autres droits, il existe parfois une tension naturelle", explique Varia. "Mais nous pouvons faire les deux :nous n'avons pas besoin de créer un système qui permette une surveillance en masse, une attribution à grande échelle des métadonnées de qui parle à qui ; nous pouvons garantir une confidentialité personnelle et des droits de l'homme solides, tout en assurant la confiance en ligne et la sécurité et aider les personnes qui en ont besoin. » + Explorer plus loin

Research propose une solution aux messages chiffrés piratés avant l'envoi ou après réception