L’intelligence artificielle multimodale Wu Dao 2.0 surpasse les géants du deep learning. Ce modèle d’apprentissage a surpassé de très loin le GPT-3 d’OpenAI.
L’Académie d’intelligence artificielle de Pékin (BAAI) a développé un modèle de deep learning qui détrône tous les géants jamais connus. Avec 1,75 trillion de paramètres dans son système, Wu Dao 2.0 est tout simplement la plus grande IA multimodale du monde.
Wu Dao 2.0, le nouveau géant de deep learning
Mardi dernier, des chercheurs de l’Académie d’IA de Pékin (BAAI) ont annoncé la sortie du nouveau modèle de deep learning génératif. Wu Dao 2.0 est une intelligence artificielle qui dispose de toutes les capacités de GPT-3, et plus encore.
Il y a un an, le modèle de deep learning d’OpenAI était une technologie de pointe qui a impressionné le monde. GPT-3 est capable de générer des textes cohérents qui pourraient faire croire qu’ils ont été écrits par une véritable personne.
Pourtant, Wu Dao entre sur le marché avec une performance qui dépasse de loin celle de ses prédécesseurs. En effet, ce modèle développée en Chine a été entraîné à partir de 1,75 trillion de paramètres. Avec 175 milliards pour GPT-3, et 150 milliards pour le Switch Transformers de Google, l’écart est incontestable.
Plus qu’un générateur de textes
Afin d’entraîner Wu Dao, les chercheurs du BAAI ont développé un système d’apprentissage open source appelé FastMoE, fonctionnant sur PyTorch. Grâce à ce système, le modèle s’est entraîné à la fois sur des clusters de supercalculateurs et sur des GPU classiques.
Wu Dao 2.0 est capable de performer un langage naturel, de reconnaître et générer des textes et des images. Mais le plus impressionnant c’est sa capacité à générer un texte à partir d’une image statique. Dans le sens inverse, il peut également produire une image photoréaliste basée sur un texte descriptif. Ses compétences s’étendent même vers les technologies virtuelles et 3D. Autrement dit, en termes d’intelligence artificielle multimodale, Wu Dao a placé la barre très haute.
- Partager l'article :
