Éviter les hallucinations de l'IA : les consignes du prompt

Vous ne pouvez pas empêcher toutes les hallucinations, mais vous pouvez écrire vos prompts pour en provoquer beaucoup moins. La plupart des inventions naissent là où la demande laisse un vide : une information que vous n'avez pas donnée, une consigne ambiguë, une actualité que l'outil ne connaît pas. Les consignes ci-dessous ferment ces vides avant que l'assistant ne les remplisse. Pour la définition du phénomène et des exemples, voyez la fiche « hallucination » du lexique.

Cette page traite de ce que vous écrivez avant la réponse. Pour contrôler une réponse déjà reçue, voyez savoir si l'IA dit vrai.

D'où viennent les inventions, et la consigne qui répond

L'Office québécois de la langue française (OQLF) relève deux causes : des données d'entraînement insuffisantes ou lacunaires, et une requête ambiguë. La fiche de France Num conçue avec la CNIL ajoute les demandes portant sur une actualité récente, que l'outil ne connaît pas forcément, et rappelle le mécanisme : le modèle estime, à partir du début d'une phrase, le mot suivant le plus probable. Il fournit toujours une réponse, sans alerte sur sa fiabilité.

Consigne 1 : fournir les faits au lieu de les demander

Ne demandez pas à l'assistant ce que vous savez déjà : vos horaires, vos tarifs, vos conditions. Donnez-les, et interdisez tout ajout. Anthropic décrit cette restriction aux informations fournies comme une technique à part entière.

Rédige [la présentation de notre service de dépannage pour la page d'accueil de notre site], en [120 mots].
Utilise uniquement les faits listés ci-dessous. N'ajoute aucun chiffre, aucune date, aucun nom, aucune garantie ni aucun label qui n'y figure pas.

Faits :
- [zone d'intervention]
- [jours et horaires]
- [types d'interventions]
- [comment obtenir un devis]

À vérifier : chaque information du texte se retrouve dans votre liste. Un délai, une garantie ou un « agréé » qui n'y était pas doit être retiré.

Consigne 2 : imposer des trous visibles

Un vide comblé ne se voit pas ; un vide signalé se corrige en une minute. Demandez une marque fixe à la place de toute information manquante. L'exemple d'Anthropic sur un communiqué de presse procède de même : chaque affirmation sans appui est retirée et son emplacement marqué par des crochets vides.

Si une information nécessaire manque dans ce que je t'ai donné, ne la devine pas : écris [À COMPLÉTER : ce qui manque] à l'endroit voulu.
À la fin, liste tous les [À COMPLÉTER] du texte, dans l'ordre.

À vérifier : un texte sans aucun [À COMPLÉTER] sur un sujet où vous aviez peu donné mérite une relecture attentive.

Consigne 3 : fixer à l'avance la phrase du « je ne sais pas »

Anthropic indique qu'autoriser explicitement l'assistant à reconnaître son incertitude peut réduire fortement les fausses informations. Donnez-lui une phrase exacte : vous pourrez la chercher dans la réponse.

Si tu n'as pas l'information, ou si tu n'es pas sûr, écris exactement : « Information non disponible ». Ne propose pas de réponse approchante.

Consigne 4 : ne pas glisser la réponse dans la question

Une question qui suppose sa réponse (« quel article de loi impose… ? ») invite l'assistant à en fournir une, même s'il n'en existe pas. Posez une question ouverte et demandez d'abord s'il y a une réponse.

Existe-t-il une règle qui impose [ce que vous voulez savoir] dans [votre situation] ?
Réponds d'abord par « oui », « non » ou « je ne sais pas ».
Si tu cites un texte, donne sa référence exacte et indique si tu es certain qu'il existe, pour que je le vérifie sur legifrance.gouv.fr ou service-public.fr.

À vérifier : ouvrez chaque référence citée. Pour une question de droit qui engage l'entreprise, la réponse prépare votre question au professionnel ; elle ne la tranche pas.

Consigne 5 : dater la question

Nous sommes le [JJ/MM/AAAA].
Pour chaque information de ta réponse qui a pu changer récemment (règle, tarif, version d'un logiciel, procédure d'un organisme), ajoute la mention « (à vérifier : peut avoir changé) ».

À vérifier : chaque mention « peut avoir changé » se contrôle sur le site de l'organisme concerné.

Le bloc à coller à la fin de vos prompts

Ces consignes se combinent. Gardez ce bloc dans vos modèles de prompts réutilisables ou dans les instructions permanentes de votre assistant.

Règles de fiabilité :
- Appuie-toi uniquement sur les informations que je t'ai données. Si tu utilises tes connaissances générales, signale-le par « (connaissance générale) ».
- N'invente aucun chiffre, aucune date, aucun nom, aucune référence ni aucune citation.
- S'il manque une information, écris [À COMPLÉTER : …] au lieu de la deviner.
- Si tu ne sais pas, écris « Information non disponible ».
- Termine par la liste des points que je dois vérifier avant d'utiliser ta réponse.

Si vous travaillez avec Claude, les techniques propres à cet assistant sont détaillées dans réduire les hallucinations de Claude.

Repérer ce qui a échappé aux consignes

La CNIL rappelle que ces systèmes peuvent produire des résultats inexacts qui paraissent pourtant plausibles, et qu'une confiance excessive sans vérification peut conduire à des décisions erronées. Les consignes rendent les erreurs plus faciles à voir ; elles ne vous dispensent pas de regarder.

À vérifier dans la réponse

• Les marques [À COMPLÉTER] et « Information non disponible » : complétez-les vous-même ou laissez le passage de côté.
• Les passages « (connaissance générale) » : contrôlez-les sur une source extérieure avant de les garder.
• Tout chiffre, toute date ou tout nom absent de vos faits : retirez-le ou vérifiez-le.
• Les références citées : ouvrez-les une à une.
• La liste finale des points à vérifier : traitez-la avant d'envoyer ou de publier.