Une hallucination IA est une sortie où le système produit une information inventée, non fondée ou présentée comme vraie alors qu’elle ne l’est pas : fausse citation, URL inexistante, source inventée, chiffre fabriqué, détail biographique erroné. Une erreur simple n’est pas exclue par définition ; c’est souvent une catégorie d’erreur parmi d’autres. Le point important est le rapport entre affirmation, preuve et réalité.
Repère documentaire : documentation officielle du fonctionnement présenté.
Exemples signalés comme fictifs
- “Une étude de Stanford 2026 prouve que…” sans étude retrouvable : exemple fictif d’étude inventée.
- “Le décret n°2025-9999 impose…” alors que le numéro n’existe pas : exemple fictif de référence légale.
- “Selon https://example.com/rapport.pdf” avec un lien mort ou jamais publié : exemple fictif de source fabriquée.
Ces exemples ne prouvent rien sur un modèle particulier ; ils illustrent les formes courantes.
Citation exacte : utile mais insuffisante
Une citation exacte prouve seulement qu’une phrase apparaît dans une source donnée. Elle ne prouve pas que la source est pertinente, récente, fiable ou correctement interprétée. Une citation de 2019 peut être obsolète ; une citation sortie de son contexte peut soutenir le contraire de ce que dit le document ; une source officielle peut concerner un autre pays ou une autre version.
Mesurer le taux d’erreurs
Pour mesurer, créez un jeu de contrôle : questions factuelles, sources attendues, réponses correctes, cas pièges et critères de notation. Faites répondre le système sans correction humaine, puis classez : correct, partiellement correct, non sourcé, inventé, obsolète, hors sujet. Ne publiez pas un taux si vous n’avez pas compté les cas. Le taux dépend du domaine : juridique, médical, actualité, code et culture générale n’ont pas les mêmes risques.
Réduire le risque
- Forcer la réponse à citer les sources réellement fournies.
- Autoriser “je ne sais pas” ou “source insuffisante”.
- Comparer les affirmations clés à une base fiable.
- Bloquer les actions sensibles sans validation humaine.
- Journaliser les erreurs pour enrichir le jeu de contrôle.
Le bon réflexe n’est pas de demander “ne hallucine pas”. C’est de limiter le terrain, fournir des sources, vérifier les affirmations importantes et mesurer les erreurs sur des cas représentatifs. Une IA peut être très utile tout en nécessitant une garde quand le coût d’une fausse information est élevé.
Hallucination partielle
Une réponse peut être moitié correcte, moitié inventée. Par exemple, citer une vraie entreprise mais lui attribuer un faux communiqué. C’est souvent plus dangereux qu’une absurdité visible, car le lecteur reconnaît une partie vraie et baisse sa garde. La vérification doit donc porter sur chaque affirmation importante, pas sur l’impression générale.
Actualité et périmètre
Un modèle peut donner une information qui était vraie à sa date d’entraînement mais fausse aujourd’hui. Ce n’est pas toujours une invention pure, mais c’est une erreur opérationnelle. Pour l’actualité, les prix, les lois, les versions logicielles ou les disponibilités produit, il faut consulter une source actuelle et datée.
Contrôle par affirmation
Découpez une réponse en affirmations atomiques : date, chiffre, nom, causalité, citation. Vérifiez chacune contre une source. Cette méthode trouve des erreurs qu’une lecture globale laisse passer, surtout quand le texte est fluide et convaincant.
Pour les bases : définition d’un modèle de langage.
