« Text-davinci-003 » d'OpenAI vient récemment s'ajouter à la famille de ses modèles de langage. L'entreprise a fait l'annonce de manière discrète. Cette nouvelle version devrait faire la transition entre la sortie de GPT-3 il y a 2 ans et de son successeur qui devrait bientôt être officialisé.
Cette nouvelle version a été officialisée mercredi dernier. Selon OpenAI, il s'agit d'une nouvelle génération de chatbot qui s'appuie sur les anciens modèles InstructGPT. C'est donc à travers les textes et les codes qui ont été publiés vers la fin du troisième trimestre de l'année 2021 que GPT-3.5, alias « text-davinci-003 » est formé.
« Text-davinci-003 », la nouvelle version du modèle de langage GPT-3
La famille des modèles GPT-3 vient d'accueillir un nouveau membre dans sa famille. Baptisé « text-davinci-003 » par OpenAI, ce nouveau modèle a la capacité d'apporter une meilleure précision et une qualité élevée aux rendus souhaités lors d'une interrogation avec l'IA.
« text-davinci-003 est assez similaire à InstructGPT. Mais nous tenons à rappeler que les deux modèles ne sont pas identiques. InstructGPT est une famille de modèles qui se base sur GPT-3. Text-davinci-003 se son côté, est le modèle qui a le score le plus élevé sur les cotes de préférence humaine », affirme le spécialiste des données OpenAI Jan Leike.
Améliorez la performance de vos projets grâce à l’IA générative ?
Généralement, l'entrainement de text-davinci-003 va entraîner l'obtention d'un résultat moins toxique et plus véridique. Ce nouveau modèle propose d'ailleurs de nouvelles fonctionnalités permettant de mieux gérer les instructions les plus complexes. OpenAI confirme également que le lancement de cette nouvelle version de modèle de langage GPT-3 est la réponse tant attendue pour la facilitation de la création d'un contenu de plus haute qualité. Et grâce à la comparaison des résultats de text-davinci-003 et du modèle précédant, on a pu constater une évolution considérable pour cette nouvelle version.
Pourquoi le GPT-3.5 est-il plus performant que le GPT-3 ? Pas de réponses de chez OpenAI
Jusqu'ici, OpenAI n'a pas encore donné de réponses sur pourquoi text-davinci-003, le nouveau modèle GPT-3.5 est plus performant que son prédécesseur, le GPT-3. Par supposition, la capacité de text-davinci-003 serait en relation avec son approche de formation. Des formateurs humains se sont occupés de la formation du GPT-3.5, à l'instar d'InstructGPT. Ces derniers ont également réalisé un classement et une évaluation les réponses des versions précédentes de GPT-3. Ils les ont ensuite introduits dans le nouveau système. Cette approche a permis a text-davinci-003 d'ajuster ses réponses selon les préférences de ses formateurs.
Pour rappel, cette méthode n'exclut pas cette nouvelle version de GPT-3 des guet-apens auxquels les modèles de langage succombent. Et selon les dire de Leike, GPT-3.5 ne s'appuie par sur la compréhension humaine du monde, mais plutôt sur des régularités statistiques.
Par contre, afin d'obtenir un résultat plus qualitatif, OpenAI devait recourir au RLHF ou apprentissage par renforcement à partir de la rétroaction humaine. Et GPT-3.5 n'aura pas besoin d'un bon nombre de paramétrages. Il pourra facilement surpasser les IA génératrices de textes les plus performants.
- Partager l'article :
