Crédit :Lillian, Meyes &Meisen.
Une équipe de chercheurs de l'Institut de gestion de l'information en génie mécanique de l'Université RWTH d'Aix-la-Chapelle a récemment exploré l'utilisation des techniques des neurosciences pour déterminer comment l'information est structurée à l'intérieur des réseaux de neurones artificiels (ANN). Dans leur papier, prépublié sur arXiv, les chercheurs ont appliqué une technique appelée ablation, ce qui implique de couper des parties du cerveau pour déterminer leur fonction, sur les architectures de réseaux de neurones.
"Notre idée a été inspirée par la recherche dans le domaine des neurosciences, où l'un des principaux objectifs est de comprendre le fonctionnement de notre cerveau, " Richard Meyes et Tobias Meisen, deux chercheurs qui ont mené l'étude ont déclaré à TechXplore, par email. "De nombreuses informations sur les fonctionnalités du cerveau ont été découvertes dans des études d'ablation, qui est une approche dans laquelle des parties spécifiques du cerveau sont soigneusement endommagées de manière contrôlée, affectant la capacité du cerveau à effectuer des tâches quotidiennes, comme générer de la parole, ou mouvement."
Le but de l'étude menée par Meyes, Meisen et leur collègue Peter Lillian devaient examiner les RNA d'un point de vue biologique, évaluer leur structure et la fonction de leurs différentes composantes. Ils ont décidé de le faire en utilisant l'ablation, une technique employée dans la recherche en neurosciences depuis plus de deux cents ans.
Essentiellement, l'ablation consiste à retirer ou à détruire sélectivement des tissus dans des zones spécifiques du cerveau, dans le seul but d'observer les effets comportementaux de ces dommages et donc de mieux comprendre la fonction de ces zones. L'ablation a déjà été appliquée aux RNA dans plusieurs études, mais ces études se sont principalement concentrées sur le peaufinage des couches du réseau et la modification de sa structure, ressemblant ainsi plus à des recherches de paramètres qu'à une ablation biologique.
Crédit :Lillian, Meyes &Meisen.
Dans leur étude, les chercheurs ont souhaité endommager des zones des RNA et observer comment cela affectait leurs performances. Finalement, ils ont souhaité utiliser ces observations pour comparer l'organisation des réseaux de neurones artificiels avec celle des réseaux biologiques.
"L'idée derrière les ablations pour les réseaux de neurones artificiels (ANN) est simple, " Meyes et Meisen ont expliqué. " Premièrement, nous formons un réseau pour effectuer une tâche spécifique, par exemple. reconnaître les chiffres manuscrits. Seconde, nous coupons une petite partie du réseau et évaluons comment les performances du réseau changent en raison des dommages causés. Troisième, nous déterminons s'il existe une relation entre l'emplacement de la partie endommagée et l'effet qu'elle a eu sur les performances du réseau. Par ici, nous avons constaté que les capacités spécifiques du réseau, par exemple. pour effectuer des mouvements vers l'avant du robot contrôlé, sont représentés localement et peuvent être détruits à dessein."
En procédant à l'ablation des RNA formés pour naviguer dans une boucle métallique et en examinant comment ces interventions ont affecté leur sortie, les chercheurs ont rassemblé un certain nombre de découvertes intéressantes, suggérant qu'il existe effectivement des liens et des similitudes entre les réseaux artificiels et biologiques. Ces similitudes sont liées à la fois à la manière dont les réseaux s'organisent et à la manière dont ils stockent les informations.
À mesure que chaque groupe d'ablation est supprimé, la sortie sans ce groupe est enregistrée. Après l'ablation de chaque groupe, les chercheurs se sont retrouvés avec une liste de résultats montrant comment le réseau change lorsque ses parties sont supprimées. Un seul groupe est ablaté à la fois. Crédit :Lillian, Meyes &Meisen.
"Notre découverte la plus intéressante est l'observation que les performances d'un réseau endommagé diminuent généralement, tandis que les capacités très spécifiques du réseau, par exemple. reconnaître un chiffre précis, peut être amélioré en endommageant des pièces spécifiques, " Meyes et Meisen ont déclaré. "Notre étude suggère que les performances d'un réseau de neurones peuvent être augmentées en l'endommageant soigneusement dans les bonnes régions. Par ailleurs, notre étude implique que l'application de méthodes neuroscientifiques pour les ANN peut ouvrir de nouvelles perspectives sur la compréhension de l'intelligence artificielle."
Malgré les résultats fascinants recueillis par Meyes, Meisen et Lillian, leur étude avait plusieurs limites et n'était qu'une première étape dans l'examen des connexions entre les réseaux de neurones biologiques et artificiels. Par exemple, leurs expériences étaient limitées par l'utilisation de l'apprentissage par renforcement et reposaient sur un modèle entraîné robotiquement, en temps réel. Des recherches futures pourraient examiner les similitudes entre les ANN et les réseaux cérébraux plus en détail et à plus grande échelle.
Les résultats d'ablation d'un réseau typique (comment sa sortie a changé) pour une image - la méthode utilisée par les chercheurs fait correspondre chaque groupe d'ablation avec ses homologues dans les autres essais. Ces données font partie de l'espace d'action étendu. Les chercheurs ont omis l'action longitudinale en raison de sa valeur très constante. Crédit :Lillian, Meyes &Meisen.
« Nous prévoyons maintenant de continuer à explorer notre idée générale de mener des recherches inspirées des neurosciences sur les ANN, " Meyes et Meisen ont déclaré. " L'une de nos prochaines étapes sera de visualiser l'activité dans les RNA tout comme l'activité cérébrale peut être visualisée avec des méthodes d'imagerie telles que l'IRMf. Notre objectif est de rendre le processus de prise de décision dans les ANN plus transparent et d'avoir une nouvelle perspective sur l'IA en général."
© 2018 Réseau Science X
