Qu'est-ce que l'hallucination d'un modèle ?

On parle d’hallucination lorsqu’un modèle d’intelligence artificielle affirme, avec beaucoup d’aplomb, un fait, une citation, une référence ou même une source qui n’existe tout simplement pas. Le terme est devenu courant depuis la démocratisation des assistants conversationnels.

Ce phénomène n’est pas un mensonge délibéré : il découle directement de la manière dont ces modèles génèrent du texte, en produisant la suite de mots la plus plausible statistiquement, sans disposer d’un véritable mécanisme de vérification factuelle intégré.

Les chercheurs travaillent activement à réduire ces hallucinations, notamment en connectant les modèles à des sources d’information vérifiables, mais le problème n’est pas encore totalement résolu, ce qui en fait l’un des défis majeurs de l’IA générative actuelle.

Pour aller plus loin : chapitre 20, « Le problème du contrôle », dans La Guerre invisible.