Les informaticiens de l'Université Otto von Guericke de Magdebourg visent à utiliser les résultats et les méthodes établies de la recherche sur le cerveau pour mieux comprendre le fonctionnement de l'intelligence artificielle.

Dans le cadre d'un projet de recherche, les scientifiques dirigés par le professeur Dr.-Ing. Sebastian Stober du Laboratoire d'intelligence artificielle de l'Université de Magdebourg appliquera des méthodes issues des neurosciences cognitives pour analyser les réseaux de neurones artificiels et mieux comprendre leur fonctionnement.

Les techniques inspirées des neurosciences cognitives pour un projet de recherche en IA explicable, ou CogXAI pour faire court, qui durera trois ans, recevra plus d'un million d'euros de financement du ministère fédéral de l'Éducation et de la Recherche d'Allemagne.

Réseaux de neurones artificiels, ou ANNs pour faire court, sont des systèmes intelligents d'auto-apprentissage qui s'inspirent de la structure du cerveau naturel. Ils sont, comme les systèmes nerveux biologiques, capables d'apprendre par l'exemple afin de résoudre indépendamment des problèmes complexes.

"Alors que dans notre cerveau, ces réseaux sont constitués de millions de cellules nerveuses communiquant entre elles au moyen de signaux chimiques et électriques, les réseaux de neurones artificiels peuvent être compris comme des programmes informatiques, " explique le professeur Stober. " Grâce à leur forte capacité d'apprentissage et leur flexibilité, ces dernières années, les réseaux de neurones artificiels ont, sous le terme « deep learning », ' se sont imposés comme un choix populaire pour le développement de systèmes intelligents."

Stober et son équipe recherchent comment trouver différentes régions dans un réseau de neurones artificiels, qui, comme dans les cerveaux biologiques, sont responsables de certaines fonctions. Comme pour l'enregistrement d'un scanner cérébral dans un scanner d'imagerie par résonance magnétique (IRM), les experts en IA visent à identifier certains domaines des ANN afin de mieux comprendre leur fonctionnement.

Par ailleurs, la recherche sur le cerveau fournit également des résultats importants sur le comportement d'apprentissage du cerveau humain. Les informaticiens utilisent cette richesse d'expérience pour permettre aux réseaux de neurones artificiels d'acquérir un comportement d'apprentissage rapide et efficace. En transférant des concepts de perception humaine et de traitement du signal vers des réseaux de neurones artificiels, ils ont l'intention de découvrir comment ces systèmes d'auto-apprentissage font des prédictions et/ou pourquoi ils font des erreurs.

"Les cerveaux naturels font l'objet de recherches depuis plus de 50 ans, " explique le professeur Stober. " Cependant, à l'heure actuelle, ce potentiel est à peine utilisé dans le développement d'architectures d'IA. En transférant les méthodes neuroscientifiques à l'étude des réseaux de neurones artificiels, leurs processus d'apprentissage deviendront également plus transparents et plus faciles à comprendre. De cette façon, il sera possible d'identifier les dysfonctionnements des neurones artificiels à un stade précoce du processus d'apprentissage et de les corriger lors de l'entraînement."

Selon Stober, le développement des réseaux de neurones artificiels progresse rapidement. "Grâce à l'utilisation d'ordinateurs performants, un nombre croissant de neurones artificiels peut être utilisé pour l'apprentissage. Cependant, la complexité croissante de ces réseaux rend plus difficile même pour les experts la compréhension de leurs processus internes et de leurs prises de décision, " explique l'informaticien et chef de file du projet CogXAI. " Cependant, si nous voulons pouvoir utiliser l'intelligence artificielle en toute sécurité à l'avenir, il est essentiel de bien comprendre son fonctionnement."