Des chercheurs de l'Université du Wisconsin-Madison et de l'Amherst College ont récemment introduit une nouvelle forme de stéganographie dans le domaine de l'apprentissage automatique appelée « training set camouflage ». leur cadre, décrit dans un article prépublié sur arXiv, permet à un agent d'apprentissage automatique de cacher l'intention et l'objectif d'une tâche à un observateur tiers.

La stéganographie est une technique de cryptage qui protège ou masque les données en incorporant des messages dans d'autres messages. Dans leur récente étude, les chercheurs de l'UW-Madison ont spécifiquement envisagé un scénario dans lequel un agent d'apprentissage automatique (Alice), essaie de former un deuxième agent (Bob) sur une tâche de classification secrète, sans qu'un troisième agent (Eve) ne l'apprenne.

"Imaginez qu'Alice ait un kit de formation sur une tâche de classification d'apprentissage automatique illicite, ", écrivent les chercheurs dans leur article. "Alice veut que Bob (un système d'apprentissage automatique) apprenne la tâche. Cependant, l'envoi de l'ensemble d'entraînement ou du modèle entraîné à Bob peut éveiller des soupçons si la communication est surveillée."

Dans le scénario envisagé par les chercheurs, un troisième agent nommé Eve assume le rôle de vérificateur de données qui surveille les communications entre Alice et Bob. Quand Eve se méfie de ce qu'Alice envoie à Bob, elle peut mettre fin à la communication entre eux, refusant de livrer les données qu'ils échangent. Eve agit comme un auditeur qui essaie de déterminer si un ensemble de données d'entraînement est légitime, avant de le transmettre à l'apprenant.

"L'envoi de l'ensemble d'entraînement privé révélerait l'intention d'Alice ; l'envoi de la direction des paramètres du modèle éveillera également les soupçons, " expliquent les chercheurs dans leur article. " Alice doit camoufler la communication pour qu'elle ait l'air banale pour Eve, tout en évitant les astuces de codage excessives avec Bob au préalable."

L'approche stéganographique conçue par les chercheurs permet à Alice de calculer un deuxième ensemble d'entraînement sur une tâche de classification entièrement différente et apparemment bénigne, sans éveiller les soupçons d'Eve. Pour ce faire, il trouve un ensemble de données qui semble pouvoir être appliqué à une tâche particulière, alors qu'il peut en fait apprendre à un agent à bien performer dans une tâche différente. En appliquant son algorithme d'apprentissage standard à ce deuxième ensemble d'apprentissage, Bob peut récupérer approximativement le classificateur sur la tâche d'origine.

L'approche sténographique imaginée par les chercheurs était un peu un coup de chance, tel qu'il a émergé d'un projet sans rapport dans le domaine de l'apprentissage automatique. Un système qu'ils ont développé avait créé une série d'ensembles d'enseignement, dont l'un comprenait un point mal étiqueté. Cela les a encouragés à rechercher si un agent pouvait enseigner à un autre agent comment accomplir une tâche, tout en le camouflant avec une autre tâche.

Les chercheurs ont mené une série d'expériences à l'aide de tâches de classification réelles et ont démontré la faisabilité de leur approche. Leur étude suggère que beaucoup d'informations peuvent être cachées simplement en tirant parti du fait que pour une tâche donnée, il existe plusieurs modèles qui peuvent bien fonctionner dessus.

Certains des chercheurs impliqués dans l'étude mènent actuellement d'autres études dans le domaine de la stéganographie. Autres, comme Scott Alfeld, étudient les situations conflictuelles dans lesquelles un attaquant perturbe les instances d'entraînement dans un espace continu, plutôt que de sélectionner un sous-ensemble d'exemples, comme dans le cas du camouflage d'ensemble d'entraînement.

© 2019 Réseau Science X