Pouvez-vous imaginer un monde sans listes de lecture Spotify personnalisées, des flux de médias sociaux organisés, ou des vidéos de chat recommandées dans les barres latérales de YouTube ? Ces commodités modernes, rendus possibles par l'intelligence artificielle (IA), présentent également une proposition effrayante :les machines pourraient finir par en savoir plus sur nous que nous-mêmes.

Selon l'enquête CIO Agenda 2019 de Gartner, 37% des Chief Information Officers (CIO) dans le monde ont déjà déployé la technologie d'IA dans leurs organisations. L'adoption rapide des solutions d'IA amène à se concentrer sur la façon dont les données, qui peuvent être des données sensibles, informations confidentielles et personnelles – sont gérées et utilisées par des organisations.

S'exprimant lors du panel de la conférence sur « IA et protection des données :nouvelles approches réglementaires », Le professeur agrégé de l'Université de gestion de Singapour (SMU), Warren Chik, a donné son point de vue sur la façon de conceptualiser la confiance à l'ère numérique. « Quand il s'agit de questions telles que les données personnelles, nous ne traitons pas l'IA comme un dieu. Par conséquent, nous ne pouvons pas nous fier à la foi, c'est ce que la religion exige. Nous avons besoin de quelque chose de plus substantiel que cela, " il a dit.

Dans son discours intitulé « Intelligence artificielle et protection des données à Singapour :la confiance des consommateurs, Sécurité organisationnelle et réglementation gouvernementale », Le professeur Chik a expliqué que pour susciter la confiance dans une solution numérique, il est crucial que les utilisateurs s'impliquent dans les problèmes en cause. "Les gens ont tendance à craindre l'inconnu, et il est difficile d'avoir confiance en quelque chose que vous ne connaissez pas."

Animé par le professeur David Llewelyn, Doyen adjoint de la Faculté de droit SMU, la table ronde mettait en vedette le professeur Ian Walden, Centre d'études en droit commercial, Université Queen Mary de Londres; le professeur agrégé Yip Man (dont l'article a été présenté par le professeur agrégé Alvin See en son nom); ainsi que les commentateurs Mr KK Lim, Responsable Cybersécurité, Confidentialité et protection des données, Eversheds Harry Elias; et M. Lanx Goh, Conseiller juridique principal (Confidentialité et cybersécurité) et responsable mondial de la protection des données, Technologie de voyage Klook.

L'IA comme influenceur

La capacité d'un système d'IA à effectuer un profilage personnel pourrait changer fondamentalement la personnalité numérique d'un utilisateur, dit le professeur Chik, mettant en évidence une cause d'inquiétude pour beaucoup.

« Alors qu'une IA détient des informations spécifiques telles que votre nom et votre adresse, il forme également sa propre connaissance de votre identité, et qui vous êtes en tant que personne, " Le professeur Chik a dit, citant des algorithmes utilisés par les flux de médias sociaux pour collecter des données sur son identité, intérêts et habitudes de navigation. A partir de ces données, le système crée ensuite un profil de qui ils pensent que vous êtes.

"Ces algorithmes, qui peuvent être bons ou mauvais, vous fournissent des informations, articles et liens, et en conséquence provoque un effet sur votre pensée. En d'autres termes, L'IA peut modeler le comportement humain, et c'est un risque qui met beaucoup de gens mal à l'aise, " dit le professeur Chik. La menace est bien réelle, a-t-il souligné, notant que les régulateurs ont clairement identifié un besoin de réglementer l'utilisation des données dans l'IA.

À Singapour, par exemple, la loi sur la protection contre les mensonges et la manipulation en ligne (POFMA) contient des dispositions pénales sur la création, utilisation et altération de bots pour diffuser de fausses informations.

Législation sur la protection des données :un numéro d'équilibriste

En essayant de réguler les données, il y a toujours deux objectifs concurrents dans la régulation de l'usage, collecte et traitement des données personnelles. "Le premier objectif est de protéger la personne concernée, et le second est de promouvoir l'innovation, " dit le professeur See, qui a présenté l'article du professeur Yip en son nom.

Parmi les différents types de protection des personnes concernées qui existent aujourd'hui, l'option la plus couramment disponible est l'utilisation de contrats. L'article du professeur Yip souligne que « [l]e problème lorsqu'on essaie de réglementer l'utilisation des données par des termes et conditions est que, dans la plupart des cas, les gens ne lisent pas [les petits caractères légaux]". Le consentement donné n'est donc pas authentique.

Professeur Llewelyn, qui a animé la table ronde, a ajouté que la signification du consentement est une question qui doit être explorée plus en profondeur. « Si un consommateur acceptait un contrat en ligne dans son intégralité sans le lire, peut-on dire avec réalisme qu'il ou elle a accepté tous les termes et conditions, et donné son plein consentement?" at-il demandé. "Peut-être devrait-il y avoir une reconnaissance légale donnée à la nature automatique de l'engagement pris dans de tels contrats."

Une limitation plus critique du contrat en tant que protection de la personne concernée, est que le contrat ne régit que les informations qui sont partagées entre les deux parties liées par le contrat. Par exemple, si Facebook cédait les données personnelles d'un utilisateur à un tiers non lié par le contrat, la société tierce ne sera pas tenue de protéger les informations de l'utilisateur.

Protection des données dès la conception

Loi sur la protection des données personnelles (PDPA) de Singapour, qui réglemente les données personnelles par l'utilisation de la législation, est décrit comme un régime léger qui adopte une approche fortement équilibrée entre le besoin de protection de la vie privée et l'intérêt de l'innovation commerciale.

L'article du professeur Yip reconnaît qu'il existe un certain niveau de tension entre les deux objectifs mentionnés ci-dessus. Le problème posé, donc, est de savoir comment trouver un équilibre entre les droits individuels et la vie privée, et l'intérêt concurrent de la croissance économique et de l'innovation, a-t-elle noté.

À la fin de la journée, l'accent est mis sur la prévention, plutôt que d'essayer de remédier à une violation de la confidentialité des données. « Il s'agit de reconnaître les droits de l'individu et la confidentialité de ses données, et en même temps, la nécessité pour les organisations de collecter, utiliser et divulguer des données personnelles à des fins légitimes et raisonnables, " ajouta l'article du professeur Yip.

Une autre solution que le professeur Yip a explorée dans son article était l'utilisation de la technologie au lieu de la loi pour protéger les personnes concernées. Dans certains cas, la confidentialité peut être directement intégrée à la conception et au fonctionnement des systèmes d'exploitation, processus de travail, infrastructure réseau et même des espaces physiques. Elle souligne néanmoins que cette solution n'est pas parfaite car elle va à l'encontre de l'intérêt des entreprises qui exploitent les données pour réaliser des bénéfices afin d'intégrer de solides garanties de confidentialité dans leurs systèmes et modèles commerciaux.