in ,

Mauvaise nouvelle pour l’IA : les hallucinations pourraient durer encore des années

Les hallucinations de l’IA ne sont pas prêtes de disparaître, les utilisateurs vont encore faire face à ce problème quelques années encore. De quoi nous obliger à prendre avec des pincettes certaines réponses générées par l’intelligence artificielle !

Alors que des entreprises telles que , ou présagent l’arrivée d’une IA beaucoup plus intelligentes, , PDG de , semble jouer les oiseaux de mauvaise augure. En effet, selon le numéro 1 de Nvidia, les hallucinations de l’IA ne sont pas prêtes de disparaître, et cela malgré les progrès constants de l’industrie. Explication !

Pourquoi les IA ont des hallucinations ?

YouTube video

Si vous ne le savez pas encore, l’IA peut inventer lorsqu’elle a du mal à trouver les réponses aux questions qu’on lui pose. C’est ce qu’on appelle « les hallucinations » de l’IA. Dans certains cas, ces réponses biaisées peuvent être anodines, mais dans certains domaines, les hallucinations de l’IA présentent de véritables dangers. Pour mieux comprendre ce phénomène, il faut savoir comment l’IA évolue. Du coup, lors d’une interview qu’il avait donnée à l’Université des Sciences et Technologies de Hong Kong, Huang avait fait une présentation sur le sujet.

En premier lieu, il y a la phase de pré-formation. C’est pendant cette phase que l’IA apprend en explorant d’immenses quantités de données. Vienne ensuite la phase post-formation où l’IA va se spécialiser dans certaines tâches grâce à des techniques de deep learning ou de génération de données synthétiques. Et pour terminer, il y a la phase test time scaling. Dans cette dernière phase, l’IA va tenter de résoudre un problème complexe en simulant différentes solutions possibles.

Alors, après toutes ces phases, pourquoi on ne peut pas avoir entièrement confiance à l’IA ? Tout simplement parce que les réponses qu’elle fournit ne sont pas fiables à 100 %. Afin d’éviter les phénomènes d’hallucinations, il faut toujours qu’un être humain soit derrière les réponses fournies par l’IA. Bien que des startups telles que Patronus AI essaie de trouver la solution à ce phénomène, Huang a affirmé que les chercheurs en auront encore pour quelques années avant de trouver la solution à cette faille !

Une demande exponentielle de puissance de calcul ?

Un autre sujet évoqué lors de ce meeting à Hong Kong est la soif de puissance de calcul dans le domaine de l’IA. Selon Huang, la demande quadruple chaque année, soit une augmentation d’un million de fois en dix ans. C’est une des raisons pour lesquelles Nvidia, leader dans le domaine des GPU dédiés à l’IA, a vu sa valeur boursière exploser.

C’est aussi la raison pour laquelle les GPU Nvidia coutent très chers. Mais, Huang affirme que sans ses innovations, ces technologies utilisées dans l’entraînement de l’IA coûteraient un million de fois plus chères. Avec humour, il a ajouté : « Je vous ai offert une réduction d’un million de fois en dix ans. C’est pratiquement gratuit ! ». 

Comment se présente l’avenir de l’IA face à ces hallucinations ?

YouTube video

Malgré ces problèmes d’hallucinations, Huang reste convaincu que l’IA continuera à transformer vies. Grâce à des avancées dans la réduction des coûts de calcul et à des techniques d’apprentissage toujours plus sophistiquées, Nvidia et l’ensemble de l’industrie restent en quête d’une IA non seulement performante, mais aussi digne de confiance. 

Cependant, comme l’a souligné Huang, le chemin sera long. Pour l’instant, les utilisateurs devront continuer à trier le vrai du faux dans les réponses de leurs intelligences artificielles. Du coup, si vous utilisez l’IA au quotidien, que ce soit pour des raisons professionnelles ou personnelles, assurez-vous de prendre les informations qu’elle vous fournit avec des pincettes. Qui sait, votre IA pourrait avoir des hallucinations pour certains sujets…

Cliquez pour commenter

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *