Appelez-le intelligent, qualifiez-le de tricheur, mais n'ayez pas honte de le trouver terriblement intéressant. Le "ça" c'est CycleGAN, et son lien avec la stéganographie, où les messages et les informations sont cachés dans des textes ou des données non secrets.

Donc, en 2019, il ne peut pas être si choquant pour les gens d'apprendre qu'une machine, pas un humain, peut tricher son chemin si une tâche. L'IA dans ce cas, comme de bons espions humains et contre, appris quand cacher certaines informations qui peuvent être utilisées plus tard.

Dans Paquet , Bhagyashree R a écrit que « les chercheurs ont découvert que la machine encodait les données de la carte aérienne dans les modèles de bruit du plan des rues en bas. Le code était si subtil qu'il serait invisible à l'œil humain. Mais en y regardant de plus près, quand les détails ont été amplifiés, il était clair que la machine avait effectué des milliers de minuscules changements de couleur indiquant des données visuelles qui pouvaient être utilisées comme un aide-mémoire lors de la recréation de l'image aérienne - d'où les lucarnes réapparaissant comme par magie."

Pendant ce temps, un article très cité sur le sujet (la recherche a été couverte par un certain nombre de sites de veille technologique, en fait) a capsulé ce que les chercheurs ont découvert. "Un agent d'apprentissage automatique destiné à transformer des images aériennes en cartes routières et inversement s'est avéré tricher en cachant des informations dont il aurait besoin plus tard de manière "presque imperceptible, signal haute fréquence, " mentionné TechCrunch .

Lily Hay Newman dans Filaire en 2017 a rappelé aux lecteurs que la stéganographie est une pratique ancienne, rien n'est né d'hier. Pensez à Da Vinci incorporant une signification secrète dans une peinture ; ou les espions d'antan écrivant à l'encre invisible.

Si la pratique est ancienne, bien que, il y a des problèmes contemporains. Nous sommes, après tout, dans un monde numérique où tous les vices et toutes les vertus ont adopté de nouveaux processus en ligne.

La stéganographie va devenir de plus en plus difficile à repérer, mentionné BanqueInfoSécurité , et a "déjà été utilisé par de mauvais acteurs".

Mathew Schwartz a déclaré que la stéganographie numérique semblait rendre la vie plus difficile pour les forces de l'ordre et a cité un professeur d'université faisant une remarque similaire. « Le chiffrement de disque stéganographique parfaitement déniable va être un cauchemar lorsqu'il s'agit de recueillir des preuves numériques, " a déclaré Alan Woodward, professeur d'informatique à l'Université de Surrey.

Avance rapide vers les rapports qui sont maintenant, qu'un groupe de chercheurs de Stanford et de Google a réalisé une étude sur la façon dont un réseau de neurones, CycleGAN, apprend à tricher. Le papier :CycleGAN, un Master of Steganography est sur arXiv et les trois auteurs sont Casey Chu (Stanford), Andrey Zhmoginov (Google) et Mark Sandler (Google).

Ils ont écrit, « CycleGAN apprend à « masquer » les informations sur une image source dans les images qu'elle génère de manière presque imperceptible, signal haute fréquence."

Dans le cadre de leur section Discussion, les auteurs font remarquer que "En encodant les informations de cette manière, CycleGAN devient particulièrement vulnérable aux attaques contradictoires ; un attaquant peut amener l'une des transformations apprises à produire une image de son choix en perturbant n'importe quelle image source choisie."

Leurs conseils ? Ils ont écrit que « la présence de ce phénomène indique que la prudence est nécessaire lors de la conception de fonctions de perte qui impliquent des compositions de réseaux de neurones :de tels modèles peuvent se comporter de manière peu intuitive si un composant tire parti de la capacité de l'autre composant à prendre en charge des exemples contradictoires. »

Des cadres communs, selon les auteurs, tels que les réseaux antagonistes génératifs et les pertes de perception utilisent ces compositions. Ils ont déclaré que « ces cadres devraient être soigneusement analysés pour s'assurer que les exemples contradictoires ne sont pas un problème ».

Mais attendez. Devrions-nous courir vers les collines avec la peur hurlante que les robots et l'IA nous achèvent tous ? Heureusement, Devin Coldewey a calmé les lecteurs TechCrunch . L'événement "révèle simplement un problème avec les ordinateurs qui existe depuis qu'ils ont été inventés :ils font exactement ce que vous leur dites de faire".

Que voulait dire Coldewey par là ? "L'intention des chercheurs était, comme vous pouvez le deviner, pour accélérer et améliorer le processus de transformation des images satellites en cartes fameusement précises de Google. À cette fin, l'équipe travaillait avec ce qu'on appelle un CycleGAN, un réseau de neurones qui apprend à transformer des images de type X et Y les unes dans les autres, aussi efficacement et précisément que possible, à travers de nombreuses expérimentations."

L'ordinateur est arrivé à une solution "qui a mis en lumière une faiblesse possible de ce type de réseau de neurones - que l'ordinateur, s'il n'est pas explicitement empêché de le faire, trouvera essentiellement un moyen de se transmettre des détails dans l'intérêt de résoudre un problème donné rapidement et facilement."

© 2019 Réseau Science X