Retour à la fiche
Question d'oral
ChatGPT est-il une source fiable ?
Réponse d'oral
ChatGPT n’est pas une source fiable à lui seul : c’est un outil utile pour expliquer, reformuler et explorer un sujet, mais ses réponses doivent être vérifiées. Il produit des phrases en prédisant la suite probable d’un échange, à partir de régularités apprises dans de grandes quantités de données. Son objectif d’entraînement ne garantit donc pas la vérité de chaque affirmation. Il peut donner une réponse exacte, puis inventer une date, une citation ou une référence avec la même assurance. Ces erreurs plausibles sont appelées hallucinations. Une réponse fluide et convaincante n’est pas forcément une réponse juste.L’histoire de l’intelligence artificielle aide à comprendre cette limite. En 1950, Alan Turing propose un test fondé sur la capacité d’une machine à dialoguer sans être distinguée d’un humain. Mais sembler humain ne signifie pas détenir la vérité. Lancé en novembre 2022, ChatGPT illustre cette différence : il peut expliquer clairement la Révolution française, tout en attribuant une phrase à un historien qui ne l’a jamais écrite. Il reste aussi sensible aux formulations des questions et aux erreurs présentes dans ses données d’apprentissage.La bonne attitude repose donc sur la vérification. Pour préparer un exposé, ChatGPT peut suggérer un plan ou clarifier une notion. En revanche, une citation doit être retrouvée dans l’œuvre concernée, et un chiffre confronté à une publication reconnue et datée. Même lorsqu’il consulte le Web, il faut examiner les documents qu’il utilise. Plus l’enjeu est important, notamment en santé ou en droit, plus cette prudence s’impose. Avec ces outils, apprendre à poser des questions devient aussi important qu’apprendre à juger les réponses.