Une équipe internationale de scientifiques de l'Université de technologie d'Eindhoven, Université du Texas à Austin, et Université de Derby, a développé une méthode révolutionnaire qui accélère quadratiquement les algorithmes de formation en intelligence artificielle (IA). Cela donne une pleine capacité d'IA aux ordinateurs bon marché, et permettrait en un à deux ans aux superordinateurs d'utiliser des réseaux de neurones artificiels qui dépassent de manière quadratique les possibilités des réseaux de neurones artificiels actuels. Les scientifiques ont présenté leur méthode le 19 juin dans la revue Communication Nature .

Les réseaux de neurones artificiels (ou ANN) sont au cœur même de la révolution de l'IA qui façonne tous les aspects de la société et de la technologie. Mais les ANN que nous avons pu gérer jusqu'à présent sont loin de résoudre des problèmes très complexes. Les tout derniers superordinateurs auraient du mal avec un réseau de 16 millions de neurones (à peu près la taille d'un cerveau de grenouille), alors qu'il faudrait plus d'une douzaine de jours à un ordinateur de bureau puissant pour en former à peine 100, réseau de 000 neurones.

Médecine personnalisée

La méthode proposée, surnommé Sparse Evolutionary Training (SET), s'inspire des réseaux biologiques et en particulier des réseaux de neurones qui doivent leur efficacité à trois caractéristiques simples :les réseaux ont relativement peu de connexions (parcisité), quelques hubs (scale-freeness) et des chemins courts (small-worldness). Les travaux rapportés dans Communication Nature démontre les avantages de s'éloigner des ANN entièrement connectés (comme dans l'IA commune), en introduisant une nouvelle procédure d'entraînement qui part d'un hasard, réseau clairsemé et évolue de manière itérative vers un système sans échelle. A chaque étape, les connexions les plus faibles sont éliminées et de nouveaux liens sont ajoutés au hasard, similaire à un processus biologique connu sous le nom de rétrécissement synaptique.

L'effet d'accélération frappant de cette méthode a une importance énorme, car il permettra l'application de l'IA à des problèmes qui ne sont pas actuellement traitables en raison du grand nombre de paramètres. Les exemples incluent la médecine personnalisée abordable et les systèmes complexes. En complexe, des environnements en évolution rapide tels que les réseaux intelligents et les systèmes sociaux, lorsqu'un recyclage fréquent à la volée d'un ANN est requis, des améliorations de la vitesse d'apprentissage (sans compromettre la précision) sont essentielles. En outre, car une telle formation peut être réalisée avec des ressources de calcul limitées, la méthode SET proposée sera préférée pour les intelligences embarquées des nombreux dispositifs distribués connectés à un système plus vaste.

Cerveau de grenouille

Ainsi, concrètement, avec SET, tout utilisateur peut construire sur son propre ordinateur portable un réseau de neurones artificiels pouvant contenir jusqu'à 1 million de neurones, alors qu'avec des méthodes de pointe, cela n'était réservé qu'aux clouds informatiques coûteux. Cela ne veut pas dire que les nuages ​​ne sont plus utiles. Elles sont. Imaginez ce que vous pouvez construire sur eux avec SET. Actuellement les plus grands réseaux de neurones artificiels, construit sur des supercalculateurs, ont la taille d'un cerveau de grenouille (environ 16 millions de neurones). Après avoir surmonté certains défis techniques, avec SET, nous pouvons construire sur les mêmes superordinateurs des réseaux de neurones artificiels proches de la taille du cerveau humain (environ 80 milliards de neurones).

L'auteur principal, le Dr Decebal Mocanu :« Et, Oui, nous avons besoin de ces réseaux extrêmement vastes. Il a été montré, par exemple, que les réseaux de neurones artificiels sont bons pour détecter le cancer à partir de gènes humains. Cependant, les chromosomes complets sont trop gros pour tenir dans des réseaux de neurones artificiels de pointe, mais ils pourraient tenir dans un réseau de 80 milliards de neurones. Ce fait peut hypothétiquement conduire à de meilleurs soins de santé et à une médecine personnalisée abordable pour nous tous. »