Hallucinations de l'IA : comment apprendre à vos équipes à vérifier les réponses ?
Une « hallucination », c'est une réponse de l'IA qui a l'air juste mais qui est fausse : une source qui n'existe pas, un article de loi mal cité, un calcul erroné, un nom inventé. Ce n'est pas un bug rare, c'est une conséquence du fonctionnement des modèles de langage, qui produisent le texte le plus plausible et non le plus vrai. La parade n'est pas de dire « soyez vigilants », mais d'apprendre à l'équipe une méthode de vérification, adaptée au niveau de risque de chaque document.
Pourquoi « faites attention » ne suffit pas
La CNIL alerte, dans ses recommandations sur l'IA générative, sur le biais d'automatisation : la tendance à faire confiance par défaut aux résultats d'une machine. Plus l'outil est fluide et habituellement fiable, plus on relâche son attention. Une consigne générale ne résiste pas à une journée chargée. Une méthode simple et partagée, si.
La Commission européenne cite d'ailleurs le risque d'hallucination comme exemple de ce que les salariés utilisant un assistant IA doivent connaître au titre de la maîtrise de l'IA (article 4 de l'IA Act).
Une règle : vérifier en proportion du risque
| Niveau | Exemples | Vérification attendue |
|---|---|---|
| Faible | Reformuler un courriel interne, trouver des idées de titres | Relecture normale |
| Moyen | Synthèse d'un document, première version d'un courrier client | Comparer avec la source, contrôler chaque fait cité |
| Élevé | Chiffres, références juridiques, conseils transmis à un client, documents contractuels | Vérification de chaque élément dans une source fiable, relecture par une seconde personne si nécessaire |
Ce tableau, affiché et discuté en équipe, vaut mieux qu'une longue procédure.
Les cinq réflexes à enseigner
- Repérer les éléments vérifiables : chiffres, dates, noms, citations, références de textes. Ce sont les zones à risque.
- Remonter à la source : un article de loi se vérifie sur Légifrance, une donnée d'entreprise dans vos propres fichiers, une règle interne dans la procédure.
- Se méfier des références trop précises : un numéro de page, une étude au titre parfait, une jurisprudence datée au jour près méritent un contrôle systématique.
- Fournir la source plutôt que demander de mémoire : donner le document à l'IA et lui demander de s'y limiter réduit les inventions, sans les supprimer.
- Assumer le résultat : celui qui envoie le document en est responsable, pas l'outil.
Comment l'entraîner, concrètement
La vérification s'apprend par la pratique, pas par la lecture d'une consigne :
- l'exercice du document piégé : donnez à l'équipe un texte produit par l'IA contenant quelques erreurs réalistes, et faites-les chercher ;
- le comparatif : posez la même question métier à l'outil plusieurs fois, et observez les variations ;
- la revue d'erreurs : en réunion, partagez sans jugement les erreurs repérées dans le mois. Elles montrent mieux que tout où l'outil se trompe sur votre activité.
Ce que le manager doit faire
Prévoyez aussi un rappel régulier : la vigilance s'émousse avec l'habitude, surtout quand l'outil donne de bons résultats pendant des semaines. Un exercice court de dix minutes en réunion d'équipe, tous les deux ou trois mois, suffit à entretenir le réflexe.
Le manager donne le ton. S'il transmet un document généré sans le relire, l'équipe fera de même. Il peut aussi décider, pour certains types de documents, d'une double validation, et dire clairement que signaler une erreur de l'IA est une bonne pratique, pas un aveu d'échec.
Les exercices de vérification sur des documents de votre métier font partie de notre formation « L'IA appliquée à votre métier », organisée en intra pour des groupes de 4 à 12 personnes.
Former votre équipe sur ce sujet ?
L'IA appliquée à votre métier — journée équipe : programme détaillé, prix annoncé, devis sous 24 h.
