Nous sommes nombreux à utiliser l’IA dans notre quotidien. Mais savez-vous qu’il ne faut pas croire à 100 % ce que l’intelligence artificielle nous raconte ? Qu’il s’agisse des moteurs de recherches alimentés par intelligence artificielle ou des chatbots, on pourrait obtenir de fausses réponses ou faire face à des hallucinations.
Le problème, c’est qu’il devient de plus en plus difficile de distinguer les vraies informations des fausses interprétations.
Cela ne veut pas dire qu’il ne faut pas utiliser, que ce soit pour obtenir des réponses à nos questions, faire des recherches approfondies sur le web ou résumés des documents.
Alors que faire face à ces hallucinations, ces réponses erronées ?
Je pense que dans certains cas, il est préférable de se tourner vers les chatbots que vers les moteurs de recherches alimentés par Intelligence artificielle.
C’est d’ailleurs le cas pour les questions ou les requêtes à faible enjeu. Comme les recherches des meilleurs restaurants, le top 5 des meilleures IA génératrices d’images, etc. Mais pourquoi ?
Eh bien, il semble que ces systèmes pourraient disposer de suffisamment d’informations dans leurs données d’entraînement et trouver les informations nécessaires sur le web.
Comme le cas de ChatGPT qui propose désormais la fonctionnalité recherche approfondie ou Gemini qui a récemment bénéficié de l’intégration du mode Deep Think.
Pour les demandes les plus personnelles, notamment les requêtes sur votre santé, vos finances, la politique ou l’actualité, les chatbots IA ne sont pas votre meilleur atout.
Je vous déconseille d’ailleurs de leur fournir des informations personnelles à votre sujet. Pourquoi ? Les réponses dans cet article.
Pourquoi ne faut-il pas faire aveuglément confiance à l’IA, même si elle paraît crédible ?
Pour comprendre pourquoi il ne faut pas faire confiance à l’IA, vous n’avez pas à comprendre comment cette technologie fonctionne.
Il suffit de savoir qu’on entraîne les LLM sur une quantité inimaginable de données. Ils cherchent alors à déterminer les probabilités de continuation en se basant sur les éléments fournis en entrée.
C’est comme s’il s’agissait d’une machine à prédiction qui génère des réponses en évaluant les chances que ses réponses correspondent à nos requêtes.
Leur objectif consiste alors à proposer la réponse présentant la plus forte probabilité d’exactitude d’un point de vue statistique. Et cela sans procéder à une vérification effective de sa véracité.
L’IA ne remplacera pas l'intelligence humaine. Elle ne remplace ni les prérequis ni le savoir.
— Institut La Boétie (@i_laboetie) March 29, 2025
Pour l’utiliser, il faut savoir quoi lui demander.
Comme l’écriture autrefois, elle changera notre rapport au monde sans abolir notre intelligence.@JLMelenchon pic.twitter.com/BjYkxXNrsx
Que se passe-t-il quand une IA n’a pas les réponses à nos questions ?
Il n’est pas rare que l’IA ne trouve pas les réponses à nos questions. Et dans ce cas bien précis, elle va en générer une qui lui semble correcte. Sauf que ce n’est pas le cas.
Le problème, c’est que la réponse semble plausible, mais hasardeuse. Comme le cas de Google qui a proposé de mettre de la colle quand un utilisateur lui a demandé une recette de pizza.
Il y a aussi, dans certains cas, des chatbots qui inventent des citations pour les attribuer à de vrais auteurs.
L’IA a donc tendance à inventer des réponses quand elle n’a pas les réponses à nos questions. Au lieu de piocher des informations sur le web et de les synthétiser, elle fait des erreurs que nous appelons des « hallucinations ».
Ce que je vous propose pour éviter de vous faire piéger par l’IA, c’est de bien vérifier les informations avant d’y faire confiance à 100 %.
- Partager l'article :
Restez à la pointe de l'information avec
INTELLIGENCE-ARTIFICIELLE.COM !
