Retour à la fiche
Question d'oral
Une machine peut-elle comprendre ce qu'elle dit ?
Réponse d'oral
Une machine peut-elle comprendre ce qu’elle dit ? Elle peut utiliser le langage de façon pertinente, mais rien ne prouve qu’elle comprenne ses paroles comme un être humain. Tout dépend donc du sens donné au mot comprendre. S’il signifie relier des informations, suivre une consigne ou expliquer un problème, une intelligence artificielle en montre certaines capacités. S’il suppose une expérience vécue et une conscience de ce que l’on exprime, la question reste ouverte. En 1950, Alan Turing propose de déplacer le débat : plutôt que chercher ce qui se passe « dans » la machine, observons si son dialogue peut être distingué de celui d’un humain. Mais réussir le test de Turing ne prouverait pas forcément une compréhension intérieure.ChatGPT, lancé en novembre 2022, illustre cette difficulté. Entraîné sur d’immenses quantités de données, il apprend à prédire la suite d’un énoncé, fragment par fragment. Cet apprentissage lui permet de traduire, de résumer et parfois de résoudre des problèmes nouveaux. Ce n’est donc pas simplement un stock de phrases récitées. Pourtant, il peut aussi inventer une référence avec assurance. Il produit une réponse plausible sans toujours en garantir la vérité.En 1980, le philosophe John Searle imagine la chambre chinoise : une personne manipule des signes chinois grâce à un manuel, sans connaître cette langue. Pour lui, appliquer des règles ne suffit pas à comprendre. D’autres répondent que la compréhension pourrait appartenir au système entier, et non à chaque pièce. Le débat invite finalement à préciser ce que nous reconnaissons comme compréhension, chez les machines comme chez nous.