Hallucination de l'IA : définition et causes

Une hallucination est une réponse fausse, inappropriée ou inventée qu'une intelligence artificielle présente comme un fait. L'Office québécois de la langue française (OQLF) retient les termes « hallucination d'IA » et « hallucination », et la définit comme un contenu produit par un modèle d'IA, présenté comme factuel alors qu'il ne correspond ni à la requête ni à la réalité. L'anglais dit AI hallucination, parfois confabulation.

Ce qui la rend dangereuse

La fiche pratique de France Num conçue avec la CNIL le décrit bien : on parle d'hallucination quand une IA générative fournit une réponse manifestement fausse à une question dont la réponse est connue ailleurs, sans émettre d'alerte sur la fiabilité de sa réponse. La CNIL, dans ses questions-réponses sur l'IA générative, insiste sur le même point : ces résultats inexacts peuvent paraître plausibles.

Autrement dit, rien dans le ton ne signale l'erreur.

Les causes connues

D'après la fiche de l'OQLF et celle de France Num :

• une demande ambiguë : l'assistant comble les trous de la consigne ;
• des données d'entraînement insuffisantes, biaisées ou incomplètes sur le sujet ;
• une actualité récente que le modèle ne connaît pas.

La fiche de France Num explique le mécanisme de fond : un modèle de langage estime, à partir du début d'une phrase, le mot suivant le plus probable. Il imite la langue de façon statistique ; il ne consulte pas une base de faits.

Un exemple documenté

L'OQLF cite le cas d'un modèle qui a affirmé que le télescope James Webb avait pris les premières images d'une exoplanète. C'est faux : ces premières images datent de 2004, et le télescope n'a été lancé qu'en 2021.

En entreprise, une hallucination peut prendre la forme d'un article de loi qui n'existe pas, d'un chiffre sans source, d'une référence de produit inventée ou d'une date de délai plausible mais fausse.

Les réflexes qui les réduisent

La documentation d'Anthropic propose des techniques simples, applicables dans tous les assistants :

• autoriser l'assistant à dire qu'il ne sait pas ;
• lui demander de répondre uniquement à partir des documents fournis ;
• lui faire citer, mot pour mot, le passage qui justifie chaque affirmation.

Ces techniques réduisent les erreurs, elles ne les suppriment pas. La vérification humaine reste indispensable : voir savoir si l'IA dit vrai et faire poser des questions à l'IA.