Bien sûr, l’IA est un super outil pour être plus productif. Mais il y a une erreur que vous ne devez jamais commettre. Cela peut vous coûter même votre travail.
L’histoire de l’avocat qui a fait confiance à une IA
Prenez l’histoire de cet avocat qui a fait un peu trop confiance à une IA. C’est assez simple : il a demandé à une intelligence artificielle de lui trouver des jurisprudences pour l’aider dans une affaire. L’outil lui a sorti une liste complète, avec des numéros de dossier et des citations de jugements. Sur le papier, c’était parfait, alors l’avocat a tout intégré à sa plaidoirie. Le gros problème ? Tout était faux. L’IA avait complètement inventé les affaires.
Alors, comment c’est possible ?
C’est à cause d’un phénomène qu’on appelle une « hallucination« , et c’est une sorte de défaut de fabrication de toutes les IA de ce type. Le point clé à saisir, c’est qu’une IA n’est pas une sorte de bibliothèque qui « connaît » des choses. C’est plutôt un moteur qui est programmé pour deviner quel mot vient après l’autre, afin de créer des phrases qui ont l’air crédibles. Son but n’est pas de dire la vérité, mais de produire un texte qui « sonne » juste.
Du coup, si elle n’a pas la bonne information sous la main, elle va tout simplement l’inventer de toutes pièces, mais en faisant en sorte qu’elle ressemble à une vraie information. Ce n’est même pas un bug ou une erreur ; c’est littéralement comme ça qu’elle est conçue pour fonctionner.
L’erreur de l’avocat : faire confiance à une machine
La véritable erreur de l’avocat, ce n’est donc pas d’avoir utilisé l’IA. C’est de l’avoir utilisée sans aucune supervision, sans son propre jugement. Il a délégué sa pensée critique à une machine qui, par définition, n’en a pas. Et ça lui a coûté cher : une sanction financière, une réputation entachée et, au final, un très mauvais service rendu à son client.
La règle : l’IA est un assistant, pas un expert
C’est pour ça qu’il faut toujours voir l’IA comme un assistant, et jamais comme un expert. Vous pouvez tout à fait l’utiliser pour trouver des idées, pour écrire un premier brouillon ou pour reformuler un texte, pour ça, c’est parfait. Mais attention, dès que vous lui demandez de vous donner un fait – que ce soit une date, un chiffre, une citation, une source, n’importe quoi – la vérification humaine devient non-négociable.
Restez à la pointe de l'information avec INTELLIGENCE-ARTIFICIELLE.COM !
- Partager l'article :
