Selon les informations, OpenAI serait sur le point de lancer un nouveau modèle d'intelligence artificielle. Un outil peut faire la différence entre un texte humain et un autre généré par l'IA : le AI Text Classifier.
Ce nouvel outil aura effectivement la capacité de détecter si un texte a été généré par une intelligence artificielle, dont GPT-3 et ChatGPT. Sauf que les résultats fournis par l'outil restent encore à désirer, avec un taux de précision de seulement 26 %.
Un taux de réussite maximal de 26 % pour AI Text Classifier
La finalité de ce nouvel outil créé par OpenAI, AI Text Classifier est d'éviter les risques liée aux textes générés par l'IA. Notamment les fausses allégations dans lesquelles on fait en sorte que le texte a été rédigé par un être humain, alors que c'est l'œuvre de l'intelligence artificielle. Cela pourrait correspondre aux documents tels que les mémoires ou les bulletins d'information.
Quoi qu'il en soit, avec un taux de réussite de pas plus de 26 %, AI Text Classifier présente encore des failles et des limitations. Pour de meilleurs résultats, il faut recourir à d'autres méthodes complémentaires. Et selon le porte-parole d'OpenAI, la société a créé AI Text Classifier dans le but de recueillir des commentaires sur l'utilité d'un tel type d'outil. Mais aussi de développer, dans le futur, des méthodes plus avancées et dont les résultats sont plus précis.
Appel aux développeurs d'IA génératrices de textes
L'IA générative connaît une popularité grandissante depuis quelques années. Face à cela, les créateurs d'intelligence artificielle génératrice de textes sont appelés à prendre des précautions quant aux éventuels effets nocifs de ces outils.
En ce qui concerne ChatGPT en particulier, les États-Unis en interdisent l'utilisation. Du moins, c'est le cas dans certains établissements scolaires du pays. Et pour cause : ces districts scolaires doutent de l'exactitude du contenu généré par ChatGPT. Ils redoutent également que l'outil ait un impact négatif sur l'apprentissage des étudiants.
Améliorez la performance de vos projets grâce à l’IA générative ?
Il enva de même pour Stack Overflow qui interdit formellement l'utilisation de ChatGPT. Un outil avec lequel les utilisateurs inondent les fils de discussion de réponses incertaines.
AI Text Classifier : des inconvénients regrettables
À l'instar de ChatGPT, AI Text Classifier d'OpenAI est un modèle d'apprentissage automatique dont la formation se base sur un ensemble de textes tirés du web. C'est-à-dire des exemples de textes qui sont accessibles au grand public. La différence c'est que la nouvelle IA a pour finalité de donner une prévision sur l'origine d'un texte donné. La prévision ne concerne pas seulement ChatGPT, mais toutes les IA génératrices de textes dont on connaît l'existence.
OpenAI a donc formé AI Text Classifier sur 34 modèles d'IA génératrices de textes. Le problème, cependant, est que l'outil ne fonctionne pas sur n'importe quel texte. Pour obtenir un résultat, il faut prendre un texte d'au moins 1 000 caractères, l'équivalent d'un texte de 150 à 250 mots.
Une autre limite d'AI Text Classifier : son incapacité à détecter le plagiat. Ce qui veut dire que cet outil peut bel et bien se tromper sur le texte qu'il va examiner.
Néanmoins, le fait qu'OpenAI développe ce nouvel outil pourrait faire croire en sa bonne foi quant à ses précédentes IA génératrices qui font l'objet de controverses.
- Partager l'article :
