Hallucination de l’IA
Hallucination de l’IA
IA
Quand un modèle IA présente une information fausse ou inventée comme vraie.
Hallucination de l’IA : définition
On réduit les hallucinations en ancrant les réponses dans des sources approuvées, en exigeant une preuve avant d’affirmer la réussite d’une action et en permettant à l’IA de dire « je ne sais pas ».
Pourquoi cela arrive : les modèles produisent un texte vraisemblable. S’ils manquent d’informations, ils peuvent combler le vide avec une affirmation plausible mais fausse, comme une politique de retour inventée ou un numéro de suivi inexistant. Dans l’assistance, cela crée des promesses non tenues. Vérifier les affirmations à partir de dossiers réels avant de les transmettre au client est la défense la plus fiable.
Exemple
Par exemple, un client demande s’il peut retourner un article ouvert. Sans sources, l’IA pourrait dire « oui, sous 60 jours », car cela paraît normal, alors que votre politique est de 30 jours pour les articles non ouverts seulement. Un agent ancré consulte et cite la politique.
Hallucination de l’IA : pourquoi c’est important
Une mauvaise réponse peut coûter un remboursement, un client ou votre réputation : maîtriser les hallucinations est essentiel avant le contact client.
Découvrez d’autres termes
Parcourez notre glossaire complet du e-commerce et des abonnements.
