Représentation graphique d'un réseau crossbar, où différents dispositifs de mémoire remplissent des rôles différents. Crédit :IBM
Idéalement, les technologies d'IA de nouvelle génération doivent comprendre toutes nos demandes et commandes, les extraire d'un vaste fond d'informations non pertinentes, afin d'apporter rapidement des réponses et des solutions pertinentes à nos besoins quotidiens. Rendre ces technologies d'IA « intelligentes » omniprésentes dans nos smartphones, nos maisons, et nos voitures, nécessiteront du matériel d'IA économe en énergie, que nous, chez IBM Research, prévoyons de construire autour de dispositifs de mémoire analogiques innovants et hautement performants.
Dans un article récent publié dans Journal de physique appliquée , notre équipe IBM Research AI a établi un ensemble détaillé de directives que les nouveaux dispositifs de mémoire analogique à l'échelle nanométrique devront satisfaire afin de permettre de tels accélérateurs matériels d'IA économes en énergie.
Nous avions précédemment montré, dans un La nature article publié en juin 2018, que la formation d'un réseau de neurones à l'aide de calculs hautement parallèles dans des matrices denses de dispositifs de mémoire tels que la mémoire à changement de phase est plus rapide et consomme moins d'énergie que l'utilisation d'une unité de traitement graphique (GPU).
L'avantage de notre approche vient de la mise en œuvre de chaque poids de réseau de neurones avec plusieurs appareils, chacun jouant un rôle différent. Certains appareils sont principalement chargés de mémoriser des informations à long terme. Les autres appareils sont mis à jour très rapidement, changeant en images d'entraînement (telles que des images d'arbres, chats, navires, etc.) sont affichés, puis de temps en temps en transférant leur apprentissage vers les dispositifs d'information à long terme. Bien que nous ayons introduit ce concept dans notre article Nature en utilisant des dispositifs existants (mémoire à changement de phase et condensateurs conventionnels), nous avons pensé qu'il devrait y avoir une opportunité pour que les nouveaux dispositifs de mémoire fonctionnent encore mieux, si nous pouvions simplement identifier les exigences pour ces appareils.
Dans notre document de suivi, vient de paraître dans Journal de physique appliquée , nous avons pu quantifier les propriétés de l'appareil que ces appareils « d'information à long terme » et « à mise à jour rapide » devraient présenter. Parce que notre schéma répartit les tâches entre les deux catégories d'appareils, ces exigences en matière d'appareils sont beaucoup moins strictes - et donc beaucoup plus réalisables - qu'auparavant. Notre travail offre une voie claire aux scientifiques des matériaux pour développer de nouveaux dispositifs pour des accélérateurs matériels d'IA à haut rendement énergétique basés sur la mémoire analogique.
Cette histoire est republiée avec l'aimable autorisation d'IBM Research. Lisez l'histoire originale ici.