Retour à la fiche
Question d'oral
Pourquoi ces modèles « hallucinent »-ils ?
Réponse d'oral
Les grands modèles de langage « hallucinent » parce qu’ils produisent des réponses plausibles sans garantir leur vérité : leur entraînement vise d’abord à prédire le token suivant, non à vérifier chaque affirmation. Un token est un mot ou un fragment de mot. À partir de régularités apprises dans d’immenses ensembles de documents, le modèle construit une suite cohérente. Il peut ainsi expliquer correctement un événement, mais aussi inventer une date, une citation ou une référence. Le mot « hallucination » est donc une image : il désigne une erreur présentée comme un fait, pas une perception vécue.Ces erreurs apparaissent notamment lorsque les informations apprises sont rares, contradictoires ou dépassées. Le modèle peut alors combler les blancs par une réponse vraisemblable, plutôt que signaler son incertitude. En 2023, dans l’affaire américaine Mata v. Avianca, des avocats ont présenté des décisions de justice inventées par ChatGPT. Les noms et les résumés semblaient crédibles, mais les décisions n’existaient pas. L’alignement, qui favorise des réponses utiles et adaptées, peut réduire certains problèmes. Il ne transforme cependant pas le modèle en système de vérification infaillible.Cela éclaire la question du sens : réussir une conversation, comme dans le test proposé par Turing en 1950, ne prouve pas que chaque phrase est comprise ou vraie. La chambre chinoise de Searle invite précisément à distinguer manipulation des signes et compréhension. Consulter des documents fiables, utiliser des outils et reconnaître l’incertitude réduit les erreurs, sans les supprimer. Reste à savoir quelle place donner à une parole convaincante lorsque sa fiabilité exige encore notre vigilance.