Les réseaux neuronaux artificiels s’inspirent du fonctionnement du cerveau humain et jouent un rôle central dans les algorithmes du deep learning. Cependant, leur architecture d’apprentissage diffère de celui du cerveau en raison du nombre de couches beaucoup plus important qu’ils intégrèrent. Une récente étude révèle que l’apprentissage superficiel du cerveau humain peut rivaliser avec l’apprentissage profond utilisé par les réseaux neuronaux artificiels.
Deux architectures d’apprentissage différentes
Le cerveau humain et les réseaux de neurones artificiels utilisés en intelligence artificielle ont des architectures très différentes. Le cerveau se compose d’un vaste réseau de neurones interconnectés, mais avec relativement peu de couches de traitement. Sa structure est donc relativement simple.
En revanche, les réseaux de neurones artificiels s’organisent en plusieurs couches. Celles-ci peuvent même atteindre des centaines dans les modèles avancés. Cette architecture en couches profondes permet aux algorithmes de deep learning d’appréhender des représentations complexes des données.
Toutefois, cette différence d’architecture d’apprentissage entre les deux réseaux entraîne aussi une différence d’efficacité dans la résolution de tâches de classifications complexes. Cette observation a suscité une nouvelle étude menée par des chercheurs du département physique et du centre de recherche multidisciplinaire sur le cerveau Gonda à l’université Bar-Ilan en Israël.
Selon le professeur Ido Kanter, le directeur des travaux de recherche, le cerveau peut être comparé à un bâtiment très large, mais de faible hauteur. Tandis que les réseaux de neurones artificiels ressemblent davantage à un gratte-ciel. Construit sur une surface plus restreinte, ce dernier possède plusieurs niveaux.
L’apprentissage superficiel surpasse l’apprentissage profond
Les scientifiques ont analysé les mécanismes d’apprentissage superficiel du cerveau humain pour évaluer leurs performances dans des tâches de classifications complexes. Les conclusions de cette étude sont parues dans la revue scientifique : Physica A: Statistical Mechanics and its Applications. Celle-ci révèle que l’apprentissage superficiel du cerveau humain, surpasse celui des réseaux de neurones artificiels multicouches.
Ronit Cross, étudiante en premier cycle et participante clé à cette étude, indique que : « La capacité à classer correctement les objets augmente lorsque l’architecture devient plus profonde, avec plus de couches. En revanche, le mécanisme superficiel du cerveau indique qu’un réseau plus large classe mieux les objets ».
Repenser l’architecture des GPU
Les conclusions de l’équipe de recherche de l’université Bar-Ilan amènent à reconsidérer l’architecture actuelle des GPU. Les géants du high-tech les utilisent pour la création d’outils de machine learning et d’IA. Actuellement, les GPU sont optimisés pour l’apprentissage profond avec des réseaux neuronaux multicouches.
L’étude souligne la complémentarité des deux processus d’apprentissage, superficiel et profond. Cependant, selon les chercheurs, pour exploiter pleinement l’apprentissage superficiel, des modifications dans la conception des GPU seraient nécessaires. Il faudrait les orienter vers une structure composée de réseaux de couches peu profondes, mais très larges, plus en adéquation avec la structure cérébrale.
Cette découverte ouvre la voie à des modèles d’intelligence artificielle plus efficaces et performants, se rapprochant davantage du fonctionnement naturel du cerveau.
- Partager l'article :
