L'avenir du deep learning n'est pas l'affaire d'une intelligence artificielle symbolique, d'après ses parrains.
Les trois pionniers du deep learning ont publié un article pour expliquer les défis rencontrés par la technologie. Ils ont également exploré les nouvelles techniques qui permettront à l'apprentissage profond de les surmonter sans l'aide des humains. Ils mettent l'accent sur la différence entre ce type d'apprentissage avec celui des animaux et des humains.
Les défis que doit faire face le deep learning pour un meilleur avenir
Dans un article intitulé « Deep Learning for AI », Yoshua Bengio, Geoffrey Hinton et Yann LeCun discutent de l'avenir de cette sous-catégorie du machine learning. Les lauréats du prix Turing 2018 et pères du DL abordent les lacunes de la technologie.
Malgré ses performances approfondies, le traitement des données pour le deep learning, tout comme les autres branches du machine learning, nécessite un travail énorme. Le premier défi consiste à trouver des ensembles de données étiquetées qui sont essentielles à l'apprentissage. Sans une database open source, il faudra faire appel à des annotateurs humains, une procédure assez coûteuse.
Par ailleurs, Bengio, Hinton et LeCun décrivent les limites des systèmes de deep learning par rapport aux tâches qu'ils peuvent exécuter. Une fois que les données sont modifiées, même très légèrement, cela affecte leur efficacité à résoudre les problèmes. En d'autres termes, ces systèmes s'adaptent difficilement au changement d'environnement et ne sont donc pas prêts pour les circonstances variables du monde réel.
Comment le rendre plus efficace ?
L'article écrit par Bengio, Hinton et LeCun fait également part des récentes avancées technologiques qui ont, ou pourraient contribuer à améliorer l'avenir du deep learning. Parmi elles, le Transformer est une architecture de réseau neuronal permettant aux systèmes de DL d'apprendre sans les données étiquetées. Cette technologie s'applique aux IA générateurs de textes et aussi à la vision par ordinateur.
D'autre part, l'approche contrastive est une autre technique qui se rapproche plus du fonctionnement du cerveau humain. Au lieu d'essayer de prédire des valeurs exactes, ce type d'apprentissage aligne des représentations vectorielles des informations manquantes.
L'article a également mentionné le « system 2 deep learning » qui se focalise plus sur le fonctionnement du cerveau. Il s'agit d'un système débutant, mais qui pourrait, selon eux, aider à résoudre certains problèmes clés du deep learning. Et enfin, une recherche de Geoffrey Hinton sur les réseaux à capsules vise à améliorer les réseaux de neurones pour développer des systèmes de DL plus intuitifs.
- Partager l'article :
