La plupart d'entre nous connaissent des plateformes technologiques telles que Facebook et Google track, stocker et gagner de l'argent avec nos données. Mais il y a constamment de nouvelles révélations sur la part de notre vie privée qui a été érodée.

Le dernier en date vient du Wall Street Journal, qui a largué une bombe vendredi lorsque ses tests ont révélé que de nombreuses applications pour smartphones populaires envoyaient des données personnelles à Facebook. Cela comprendrait des données provenant des applications de surveillance de la fréquence cardiaque et de suivi des règles :« Flo Period &Ovulation Tracker de Flo Health Inc., qui revendique 25 millions d'utilisateurs actifs, a déclaré à Facebook lorsqu'une utilisatrice avait ses règles ou a informé l'application de son intention de tomber enceinte, les tests ont montré."

Lorsque nous utilisons des technologies qui suivent nos données, nous entrons dans un système régi par des algorithmes. Et plus nous transmettons d'informations, plus nous nous enlaçons avec des systèmes algorithmiques que nous ne contrôlons pas.

Nous avons un besoin urgent de protections qui protègent nos intérêts personnels dans ce système. Nous proposons le concept de « gardiens algorithmiques » comme solution efficace.

Comment fonctionnent les algorithmes de suivi des données ?

Du quotidien, à notre insu, les entreprises technologiques utilisent nos données pour prédire nos habitudes, préférences et comportements. Les algorithmes qui fonctionnent derrière tout, des systèmes de recommandation musicale aux systèmes de sécurité à domicile à reconnaissance faciale, utilisent ces données pour créer une version jumelle numérique de nous.

Nous recevons ensuite du contenu et de la publicité en fonction de ce que l'algorithme a décidé que nous voulons et dont nous avons besoin, sans expliquer comment il en est venu à cette décision, ou nous permettant de participer au processus de prise de décision.

Et nos intérêts viennent probablement après ceux qui ont développé l'algorithme.

Contrairement à ce que suggère le concept, nous ne contrôlons pas directement la "personnalisation", et nous n'avons pratiquement aucun moyen de protéger notre autonomie dans ces transactions de données et de prise de décision.

Qu'est-ce qu'un « gardien algorithmique » ?

Nous avons proposé le concept de gardiens algorithmiques, qui pourrait être programmé pour gérer nos interactions numériques avec les plateformes sociales et les applications en fonction de nos préférences personnelles.

Ils sont envisagés comme des bots, les assistants personnels ou la technologie holographique qui nous accompagnent partout où nous nous aventurons en ligne, et nous alerter sur ce qui se passe dans les coulisses.

Ces gardiens sont eux-mêmes des algorithmes, mais ils travaillent pour nous seuls. Comme les logiciels antivirus, ceux qui ne protègent pas les utilisateurs feront faillite, tandis que ceux qui acquièrent une réputation de gardiens de confiance réussiront.

En termes pratiques, nos tuteurs nous rendraient reconnaissables ou anonymes lorsque nous choisissons de l'être. Ils modifieraient également notre identité numérique selon nos souhaits, afin que nous puissions utiliser différents services avec différents ensembles de préférences personnelles. Nos tuteurs gardent nos données personnelles entre nos mains en s'assurant que nos sauvegardes et mots de passe sont sûrs. Nous déciderions de ce dont on se souvient et de ce qui est oublié.

Un gardien algorithmique :

• nous alerter si notre emplacement, l'activité ou les conversations en ligne étaient surveillées ou suivies, et nous donne la possibilité de disparaître
• nous aider à comprendre les points pertinents des termes et conditions longs et lourds lorsque nous nous inscrivons à un service en ligne
• donnez-nous une explication simple lorsque nous ne comprenons pas ce qui arrive à nos données entre notre ordinateur, les enregistrements téléphoniques et les dizaines d'applications exécutées en arrière-plan sur nos téléphones
• nous avertir si une application envoie des données de nos téléphones à des tiers, et donnez-nous la possibilité de le bloquer en temps réel
• nous dire si nos données ont été monétisées par un tiers et à quoi elles servaient.

Nous envisageons les gardiens algorithmiques comme la prochaine génération des assistants personnels actuels tels que Siri, Alexa ou Watson. Grâce à la technologie portable et aux modèles avancés d'interactions homme-machine, ils seront constamment et facilement accessibles.

Nos gardiens numériques n'ont pas besoin d'être intelligents de la même manière que les humains. Ils doivent plutôt être intelligents par rapport à l'environnement dans lequel ils habitent – ​​en reconnaissant et en comprenant les autres algorithmes qu'ils rencontrent.

Dans tous les cas, même si les gardiens algorithmiques (contrairement aux algorithmes tiers) appartiennent à l'utilisateur et sont totalement sous notre propre contrôle, être capable de comprendre comment ils fonctionnent sera une priorité pour les rendre pleinement dignes de confiance.

Quand arriveront les gardiens algorithmiques ?

La technologie permettant d'activer les gardiens algorithmiques est en train d'émerger au moment où nous parlons. Ce qui tarde, c'est la prise de conscience généralisée que nous en avons besoin.

Vous pouvez voir des versions primitives de la technologie des gardiens algorithmiques dans les coffres-forts numériques pour le stockage et la gestion des mots de passe, et dans les paramètres logiciels qui nous donnent un certain contrôle sur la façon dont nos données sont utilisées.

L'apprentissage automatique explicable est un sujet brûlant en ce moment, mais toujours très dans le domaine de la recherche. Il résout le problème de la "boîte noire", où nous n'avons aucune idée de la façon dont un algorithme est réellement arrivé à sa décision finale. En pratique, nous pouvons savoir que notre demande de prêt est refusée, mais nous ne savons pas si c'était à cause de notre histoire de factures d'électricité impayées, ou à cause de notre nom de famille.

Sans cette responsabilité, les moments clés de nos vies sont médiatisés par l'inconnu, invisible, et des algorithmes arbitraires. Les gardiens algorithmiques pourraient assumer le rôle de communiquer et d'expliquer ces décisions.

Maintenant que les algorithmes sont devenus omniprésents dans la vie quotidienne, l'explicabilité n'est plus un choix, mais un domaine nécessitant une attention accrue de toute urgence.

Nous devons développer des modèles de gardiens algorithmiques spécifiques au cours des deux prochaines années pour jeter les bases des systèmes algorithmiques ouverts au cours de la prochaine décennie. De cette façon, si une application veut dire à Facebook que vous êtes enceinte, vous le saurez avant que cela n'arrive.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.