Selon les chercheurs, il serait possible de permettre à un périphérique doté d'une intelligence artificielle d'apprendre de manière continue grâce à des données depuis un capteur ou un smartphone. Il s'agit ici de l'apprentissage automatique sur l'appareil.
Les ordinateurs miniatures et les microcontrôleurs peuvent exécuter des commandes, mais les plus simples, a priori. Ils sont également à l'origine des appareils connectés que l'on utilise aujourd'hui, sauf qu'ils ont une mémoire assez faible et ne sont pas dotés d'un système d'exploitation. C'est pourquoi la formation des modèles d'apprentissage automatique sur les appareils est encore très complexe. Surtout sur une technologie de pointe fonctionnant de manière indépendante d'un composant informatique centralisé.
Apprentissage automatique sur l'appareil : vers une meilleure formation
Former ou entraîner un modèle d'apprentissage automatique sur l'appareil ou encore machine learning sur l'appareil (Edge ML) est un moyen efficace pour qu'il puisse s'adapter aux nouvelles données créés et stockée directement sur le dispositif. Il va fonctionner à l'exemple de l'Edge AI, une approche qui vise à exécuter des algorithmes d'IA sur un périphérique matériel. Et cela en utilisant les données que l'appareil génère.
D'après les chercheurs, on peut par entraîner un modèle de machine learning sur un clavier intelligent. L'objectif est ici d'apprendre au clavier quel est le style d'écriture manuscrite de son utilisateur. Ils ajoutent également que le processus d'apprentissage devrait se faire sur des ordinateurs puissants. Ce qui a comme conséquence de déployer des ressources financières importantes.
C'est là que les chercheurs du MIT et du MIT-IBM Watson AI Lab ont développé une solution qui va permettre à un modèle de Edge ML de se former en n'utilisant que 250 Ko de mémoire. « Grâce à cela, l'apprentissage d'un modèle d'IA ne nécessite pas une grande quantité de calculs. Et le processus est plus rapide et plus précis », ajoutent-ils.
Un modèle Edge ML sur l'appareil prend la forme d'un réseau neuronal
Pour ceux qui ont une notion en machine learning, le modèle le plus courant est le réseau de neurones. Cette méthode se base sur le fonctionnement du cerveau humain. Sur les modèles d'Edge ML, on trouve aussi des couches de neurones artificiels. Ces dernières viendront traiter les données d'un smartphone par exemple, et interpréter les informations qu'elles reçoivent.
Pour qu'un modèle soit capable d'accomplir une tâche, une formation est nécessaire. Des mises à jour sont également indispensables afin que le modèle puisse apprendre ladite tâche. C'est au fur et à mesure où il apprenne qu'il sera capable d'augmenter la force de connexion des neurones.
Selon Song Han, professeur associé au Département de génie électrique et d'informatique à l'EECS du MIT, un modèle Edge ML subit plusieurs mises à jour. On doit aussi stocker les activations, ce qui entraîne une augmentation au niveau de l'utilisation de la mémoire.
Face à cela, ils ont opté pour l'utilisation de deux algorithmes pour faciliter l'apprentissage, mais aussi pour limiter la consommation de mémoire. « Nous avons opté pour la mise à jour parcimonieuse et pour l'entraînement quantifié et la simplification des poids (connexions entre les neurones) ». Résultat : la formation d'un modèle d'apprentissage automatique sur l'appareil n'aura besoin que de 157 Ko de mémoire.
- Partager l'article :
