De nouvelles lois sur la protection de la vie privée telles que le Règlement général sur la protection des données (RGPD) de l'Europe et le California Consumer Privacy Act (CCPA) ont engendré une nouvelle industrie d'entreprises et de plateformes annonçant qu'elles peuvent anonymiser vos données et se conformer à la loi.

Mais le chercheur du MIT, Aloni Cohen, dit qu'il a des doutes sur ces affirmations, et les derniers travaux de son équipe montrent qu'il y a lieu d'être sceptique.

Spécifiquement, un nouvel article de journal de Cohen et du professeur Kobbi Nissim soutient qu'une technique d'anonymat appelée k-anonymat - qui est utilisée par de nombreuses entreprises qui font de telles déclarations - n'empêche pas un utilisateur d'être distingué et désanonymisé en regardant la plate-forme plus large Les données. Les chercheurs étudient un nouveau type d'attaque qu'ils appellent « repérage de prédicats, " inspiré d'un type de violation de la vie privée du RGPD appelé singularisation.

"Je pense qu'il est raisonnable de dire que bon nombre des affirmations faites par ces sociétés" d'anonymat en tant que service "sont suspectes, " dit Cohen, dont l'article avec Nissim a été publié en ligne aujourd'hui dans PNAS . "Cet article est une étape pour tester cela et montrer les failles de leur approche."

L'équipe a fait valoir que les entreprises utilisant le k-anonymat pour anonymiser les données pourraient plutôt utiliser une confidentialité différentielle, une technique plus récente qui implique une randomisation contrôlée avec précision pour masquer la présence ou l'absence d'un individu particulier dans un ensemble de données. Les chercheurs montrent que la confidentialité différentielle empêche les attaques par prédicat.

La confidentialité différentielle est de plus en plus adoptée dans des contextes où les approches plus traditionnelles de l'anonymisation sont jugées inadéquates. Le US Census Bureau utilise la confidentialité différentielle pour assurer la confidentialité du recensement de 2020. L'adoption du RGPD a également incité Facebook à utiliser la confidentialité différentielle pour aider les sociologues à étudier la désinformation en ligne.

« Alors que nous montrons que la confidentialité différentielle empêche les attaques de prédicats uniques, ce n'est pas nécessairement une anonymisation à part entière en vertu de la loi, " dit Cohen. " D'autre part, ce travail montre que, en règle générale, vous devriez être sceptique vis-à-vis de toute entreprise qui vous dit que son utilisation du k-anonymat vous donne une « conformité au RGPD ».

Le document représente également un nouvel exemple intrigant de la façon dont les mathématiques et le code informatique peuvent être utilisés pour déterminer de manière quantifiable si les entreprises respectent réellement la loi.

"Nous pensons que prouver que quelque chose est sécurisé par PSO n'est pas seulement un concept mathématique, mais qui peut être utilisé pour étayer une conclusion juridique, et cela devrait effectivement avoir des conséquences juridiques, " dit Cohen.