Image SEM du dispositif neuronal artificiel. Crédit :Sangheon Oh/Nature Nanotechnologie
Entraîner les réseaux de neurones à effectuer des tâches, comme la reconnaissance d'images ou la navigation dans des voitures autonomes, pourrait un jour nécessiter moins de puissance de calcul et de matériel grâce à un nouveau dispositif de neurones artificiels développé par des chercheurs de l'Université de Californie à San Diego. L'appareil peut exécuter des calculs de réseau neuronal en utilisant 100 à 1000 fois moins d'énergie et de surface que le matériel CMOS existant.
Les chercheurs rapportent leurs travaux dans un article publié le 18 mars dans Nature Nanotechnologie .
Les réseaux de neurones sont une série de couches connectées de neurones artificiels, où la sortie d'une couche fournit l'entrée à la suivante. La génération de cette entrée se fait en appliquant un calcul mathématique appelé fonction d'activation non linéaire. Il s'agit d'une partie essentielle de la gestion d'un réseau de neurones. Mais l'application de cette fonction nécessite beaucoup de puissance de calcul et de circuits, car elle implique le transfert de données entre deux unités distinctes :la mémoire et un processeur externe.
Maintenant, Des chercheurs de l'UC San Diego ont développé un appareil de la taille d'un nanomètre capable d'effectuer efficacement la fonction d'activation.
"Les calculs de réseaux neuronaux dans le matériel deviennent de plus en plus inefficaces à mesure que les modèles de réseaux neuronaux deviennent plus grands et plus complexes, " dit Duygu Kuzum, professeur de génie électrique et informatique à la UC San Diego Jacobs School of Engineering. "Nous avons développé un seul neurone artificiel à l'échelle nanométrique qui implémente ces calculs dans le matériel d'une manière très économe en espace et en énergie."
Une carte de circuit imprimé personnalisée construite avec un réseau de dispositifs d'activation (ou neurones) et un réseau de dispositifs synaptiques. Crédit :Sangheon Oh/Nature Nanotechnologie
La nouvelle étude, dirigé par Kuzum et son doctorat. étudiant Sangheon Oh, a été réalisée en collaboration avec un centre de recherche DOE Energy Frontier dirigé par le professeur de physique de l'UC San Diego, Ivan Schuller, qui se concentre sur le développement d'implémentations matérielles de réseaux de neurones artificiels économes en énergie.
L'appareil met en œuvre l'une des fonctions d'activation les plus couramment utilisées dans l'apprentissage des réseaux de neurones, appelée unité linéaire rectifiée. La particularité de cette fonction est qu'elle a besoin de matériel pouvant subir un changement progressif de résistance pour fonctionner. Et c'est exactement ce pour quoi les chercheurs de l'UC San Diego ont conçu leur appareil :il peut passer progressivement d'un état isolant à un état conducteur, et il le fait avec l'aide d'un peu de chaleur.
Ce commutateur est ce qu'on appelle une transition de Mott. Il se déroule dans une couche fine de quelques nanomètres de dioxyde de vanadium. Au-dessus de cette couche se trouve un élément chauffant à nanofils en titane et en or. Lorsque le courant traverse le nanofil, la couche de dioxyde de vanadium se réchauffe lentement, provoquant un ralentissement, passage contrôlé d'isolant à conducteur.
« Cette architecture de dispositif est très intéressante et innovante, " a dit Oh, qui est le premier auteur de l'étude. Typiquement, les matériaux dans une transition de Mott subissent un passage brusque de l'isolant à la conduction parce que le courant circule directement à travers le matériau, il expliqua. "Dans ce cas, nous faisons passer du courant à travers un nanofil au-dessus du matériau pour le chauffer et induire un changement de résistance très progressif."
Un tableau des dispositifs d'activation (ou neurones). Crédit :Sangheon Oh/Nature Nanotechnologie
Pour mettre en œuvre le dispositif, les chercheurs ont d'abord fabriqué un ensemble de ces dispositifs dits d'activation (ou neurones), avec un tableau de périphériques synaptiques. Ensuite, ils ont intégré les deux matrices sur une carte de circuit imprimé personnalisée et les ont connectés ensemble pour créer une version matérielle d'un réseau de neurones.
Les chercheurs ont utilisé le réseau pour traiter une image - dans ce cas, une photo de la bibliothèque Geisel à l'UC San Diego. Le réseau a effectué un type de traitement d'image appelé détection de contour, qui identifie les contours ou les bords des objets dans une image. Cette expérience a démontré que le système matériel intégré peut effectuer des opérations de convolution qui sont essentielles pour de nombreux types de réseaux de neurones profonds.
Les chercheurs affirment que la technologie pourrait être encore étendue pour effectuer des tâches plus complexes telles que la reconnaissance faciale et d'objets dans les voitures autonomes. Avec l'intérêt et la collaboration de l'industrie, cela peut arriver, a noté Kuzum.
"À l'heure actuelle, c'est une preuve de concept, " a déclaré Kuzum. "C'est un petit système dans lequel nous n'avons empilé qu'une seule couche synaptique avec une seule couche d'activation. En empilant plus d'entre eux, vous pourriez créer un système plus complexe pour différentes applications."
