Parce qu'une IA générative ne vérifie pas ce qu'elle écrit : elle produit la suite de mots la plus plausible. Chaque génération de modèle se trompe moins, mais aucun éditeur ne promet zéro erreur. Comprendre d'où viennent ces erreurs est le meilleur moyen de les repérer avant qu'elles coûtent cher.
Qu'est-ce qu'une hallucination ?
On appelle hallucination une réponse fausse présentée comme vraie : un article de loi qui n'existe pas, une statistique inventée, une citation attribuée à la mauvaise personne. Le modèle ne « ment » pas : il génère une suite de mots plausible à partir de ce qu'il a appris, sans vérifier les faits.
Quand le risque est le plus élevé
- Faits précis : chiffres, dates, montants, références juridiques.
- Sujets récents : postérieurs à l'entraînement du modèle, sauf si l'outil fait une recherche web.
- Sujets rares ou très spécialisés : peu présents dans les données d'entraînement.
- Questions orientées : « Pourquoi la loi impose-t-elle X ? » pousse l'IA à justifier X, même si c'est faux.
Les réflexes à adopter
- Demander les sources et les ouvrir : un lien inexistant ou hors sujet est un signal d'alerte.
- Vérifier tout ce qui engage : un chiffre dans un devis, une règle RH, une information client.
- Poser la question autrement : si deux formulations donnent deux réponses différentes, creusez.
- Fournir le document de référence plutôt que de compter sur la mémoire du modèle.
- Autoriser l'IA à dire « je ne sais pas » dans votre consigne.
En pratique : l'exercice du binôme
À deux, essayez de faire dire une erreur à votre assistant sur un sujet que vous maîtrisez (votre métier, votre convention collective). Notez la question qui l'a induit en erreur, puis la façon de la reformuler pour obtenir une réponse juste. C'est l'exercice le plus parlant pour toute une équipe.
À retenir
- L'IA produit du plausible, pas du vérifié.
- Les erreurs portent surtout sur les faits précis, récents ou rares.
- Sources, vérification et documents de référence réduisent fortement le risque.
- Une information qui engage l'entreprise se vérifie toujours à la source.
Vous voulez apprendre à vos équipes à utiliser l'IA avec esprit critique ? Contactez-nous.