Les hallucinations : les comprendre pour les contenir

En bref. Une hallucination de l’IA peut conduire à des décisions erronées plus rapidement qu’un modèle qui reste silencieux, car elle donne l’apparence de certitude. Trois leviers permettent de contenir ce risque sans l’éliminer totalement : intégrer des règles de validation métiers dans le workflow, encadrer le prompt avec des contraintes de récupération de sources (RAG) et mettre en place un filtrage humain ou automatisé avant toute diffusion. Chacun agit sur une étape différente de la chaîne de production de l’IA.

Situation observée : une réponse inventée en réunion de pilotage

Lors de la revue mensuelle du tableau de bord des ventes, le responsable marketing a copié‑collé une réponse générée par GPT‑4o dans un courriel destiné à ses partenaires majeurs. Le texte affirmait que le taux de conversion du dernier trimestre avait bondi de 27 % grâce à une nouvelle campagne. En vérifiant le CRM, le chiffre réel s’élevait à 3 %. L’erreur a été détectée seulement après l’envoi du mail, provoquant une perte de confiance immédiate de la part des destinataires.

Pourquoi les hallucinations sont plus dangereuses que le silence

Un modèle qui ne répond pas laisse clairement apparaître un manque d’information, incitant l’utilisateur à chercher ailleurs ou à demander des précisions. Une hallucination, au contraire, fournit une réponse détaillée, chiffrée et formulée avec assurance. Le décideur l’intègre souvent directement dans son raisonnement, ce qui peut entraîner une mauvaise allocation de ressources, un engagement contractuel basé sur des données erronées ou une communication externe trompeuse. Le risque provient donc moins de la fréquence de l’erreur que de la crédibilité apparente qu’elle confère.

Dispositif 1 : règles de validation métiers intégrées au workflow

Le premier levier consiste à placer des contrôles automatisés dès la sortie du modèle, avant que le texte ne quitte le système. Par exemple, dans un processus n8n qui alimente un mail de suivi client, on peut ajouter une étape qui vérifie la présence de chiffres clés contre les valeurs stockées dans Excel ou dans le CRM. Si l’écart dépasse un seuil défini (par exemple 10 % de différence), le workflow bloque la diffusion et déclenche une alerte vers un responsable. Ce contrôle ne supprime pas la génération, mais il empêche la propagation d’une affirmation manifestement incohérente avec les données de référence.

Dispositif 2 : contraintes de prompt et récupération de sources (RAG)

Le second levier agit sur l’entrée du modèle. En structurant le prompt pour exiger que chaque affirmation soit appuyée par une citation provenant d’une base de connaissances fiable (par exemple un fichier PDF des procédures internes ou une base de faits extraite du CRM), on réduit la tendance du modèle à « inventer ». Avec GPT‑4o ou Mistral, on peut utiliser la technique du Retrieval‑Augmented Generation : le modèle reçoit d’abord les passages pertinents, puis il doit les reformuler sans ajouter d’information extérieure. En pratique, cela se traduit par l’ajout d’une étape de recherche dans un outil comme Make qui interroge une base de données vectorielle avant d’appeler l’API du modèle. Les réponses obtenues restent alors ancrées dans les sources fournies, même si le modèle conserve une certaine créativité dans la reformulation.

Dispositif 3 : filtrage humain ou automatisé avant diffusion

Le troisième levier intervient juste avant la diffusion externe ou la prise de décision. Un opérateur peut relire le texte généré et vérifier les points sensibles (chiffres, dates, références réglementaires). Lorsque le volume rend cette relecture irréaliste, on peut automatiser un premier filtre grâce à des règles de correspondance de modèles (regex) ou à un petit classificateur entraîné à détecter les affirmations non appuyées par des sources. Par exemple, dans un flux de génération de réponses pour un service client via un CRM, on place une étape qui recherche la présence de motifs tels que « augmentation de X % » ou « réduction de Y » et les compare aux valeurs extraites du registre des indicateurs. Si aucune correspondance n’est trouvée, le texte est marqué pour révision. Ce filtrage ne garantit pas l’exactitude, mais il diminue fortement la probabilité qu’une hallucination atteigne l’utilisateur final.

Ce qui ne fonctionne pas : se fier uniquement à la température du modèle

Il est fréquent de croire qu’en abaissant la température (par exemple à 0,2) on rend le modèle plus factuel. En pratique, une température basse réduit la variabilité mais n’élimine pas la tendance à combler les lacunes avec du contenu plausible. Dans nos tests internes avec Claude 2, même à température 0,1, le modèle a continué à inventer des références à des réglementations inexistantes dans environ 12 % des réponses lorsqu’il était interrogé sur des sujets peu documentés. Ainsi, ajuster la température seul ne constitue pas une protection suffisante contre les hallucinations.

Quand ne pas déployer : cas d’usage à éviter absolument

Dans les environnements où une erreur de fait peut entraîner des conséquences juridiques ou financières immédiates (par exemple la rédaction d’un avenant à un contrat, la génération d’une déclaration fiscale ou le conseil en investissement), il est préférable de ne pas laisser le modèle produire du texte destiné à être utilisé tel quel. Même avec tous les dispositifs décrits, le risque résiduel reste trop élevé pour ces processus à fort enjeu. Dans ces cas, la meilleure pratique consiste à réserver l’IA à des tâches d’assistance préliminaire (synthèse de documents, proposition de brouillons) et à soumettre systématiquement le résultat à une validation experte avant toute utilisation officielle.

Questions fréquentes

Quel niveau de précision peut-on attendre des dispositifs de validation métiers ?

Les règles de validation permettent de détecter les écarts majeurs, généralement supérieurs à 5 à 10 % par rapport aux données de référence. Elles ne garantissent pas l’exactitude des formulations ou des nuances, mais elles bloquent la plupart des affirmations clairement incohérentes avec les chiffres stockés.

Est‑ce que le RAG ralentit sensiblement le temps de réponse ?

L’ajout d’une étape de récupération de sources ajoute typiquement entre 200 et 500 ms selon la taille de la base et la latence de l’outil d’orchestration (Make ou n8n). Dans la plupart des usages internes, ce délai reste acceptable au regard de la réduction du risque d’erreur.

Comment former un petit classificateur pour détecter les affirmations non sourcées ?

On peut collecter quelques centaines d’exemples de réponses générées, les étiqueter selon qu’ils contiennent ou non une référence vérifiable, puis entraîner un modèle léger (par exemple une régression logistique sur des caractéristiques TF‑IDF) avec scikit‑learn. Ce classificateur atteint généralement une précision de 80 à 90 % sur un jeu de validation tenu à part.

Dans quel cas faut‑il absolument éviter d’utiliser le modèle pour générer du texte destiné à un client externe ?

Lorsque le texte pourra être engagé comme preuve contractuelle, réglementaire ou financière (avenants, déclarations de conformité, offres commerciales avec des garanties de performance), il est préférable de ne pas laisser le modèle produire la version finale, même filtrée, car le risque résiduel d’erreur reste incompatibles avec les exigences de ces documents.

Le filtrage humain peut‑il être remplacé totalement par une IA de vérification ?

Une IA de vérification peut réduire la charge de travail, mais elle présente elle‑même un risque d’erreur de détection. Dans les processus où la conséquence d’une hallucination est élevée, il est recommandé de conserver une vérification humaine en dernier recours, éventuellement appuyée par un outil automatisé comme première passe.