Aller au contenu

Glossaire

Hallucination : définition

Réponse d'un modèle d'IA qui semble crédible mais est fausse ou inventée : fait inexistant, source fictive, chiffre erroné.

Catégorie
Intelligence artificielle
Domaine
Intelligence artificielle
Formations liées
3

Ce qu'il faut retenir en entreprise

Le risque est surtout un risque de confiance. Il faut prévoir une vérification humaine sur toute information qui engage l'entreprise.

Exemple concret de « Hallucination » en entreprise

Un chargé d'études d'un cabinet de conseil demande à un assistant IA de citer des sources pour étayer un rapport client. L'outil propose plusieurs références à l'apparence sérieuse, dont certaines n'existent pas. Le chargé d'études, formé à ce risque, vérifie chaque source avant de l'intégrer et écarte celles qu'il ne retrouve pas.

Que retenir sur « Hallucination » ?

  • Une hallucination se présente avec le même aplomb qu'une réponse exacte, d'où sa dangerosité.
  • Toute information engageant l'entreprise doit être vérifiée par une personne compétente avant diffusion.
  • Former les équipes à reconnaître ce risque est aussi important que choisir le bon outil.

Questions fréquentes sur « Hallucination »

Quelle différence entre une hallucination et une simple erreur ?

Une erreur classique provient souvent d'une donnée fausse ou mal saisie. L'hallucination est propre aux modèles génératifs : le système invente un contenu plausible faute d'information fiable, sans signaler son incertitude. C'est cette assurance apparente qui la rend difficile à repérer sans vérification.

Comment limiter les hallucinations en entreprise ?

Fournissez au modèle des documents de référence, par exemple via une architecture RAG, et demandez-lui de citer ses sources. Formulez des consignes précises et autorisez-le à répondre qu'il ne sait pas. Maintenez enfin une relecture humaine sur les contenus sensibles ou destinés à l'extérieur.

Former votre équipe sur ce sujet

Décrivez votre besoin : nous proposons un programme de formation sur mesure pour votre entreprise.

Demander une proposition