Retour à la fiche
Question d'oral
Que démontre l'argument de la chambre chinoise, et quelle est sa réplique classique ?
Réponse d'oral
L’argument de la chambre chinoise soutient que manipuler correctement des symboles ne suffit pas à comprendre leur sens ; sa réplique classique est que la compréhension pourrait appartenir au système entier, et non à celui qui exécute les règles. Proposée par John Searle en 1980, cette expérience de pensée imagine une personne enfermée dans une pièce, qui ne connaît pas le chinois. Elle reçoit des signes chinois et applique un manuel pour produire des réponses. Pour les interlocuteurs extérieurs, ses réponses sont parfaites. Pourtant, elle ne comprend rien à ce qu’elle écrit. Searle distingue ainsi la syntaxe, c’est-à-dire les règles de manipulation des signes, de la sémantique, leur signification. Il conteste donc l’idée qu’une conversation réussie, comme dans le test de Turing, prouverait à elle seule une compréhension.La réponse du système objecte que Searle regarde au mauvais endroit : l’individu ne comprend pas, mais l’ensemble formé par l’individu, le manuel et les mécanismes de traitement pourrait comprendre. Après tout, aucun neurone isolé ne comprend une phrase ; cela n’empêche pas un cerveau de la comprendre. Searle réplique que, même si la personne mémorisait toutes les règles et réalisait toutes les opérations mentalement, elle ne comprendrait toujours pas le chinois. Le désaccord reste donc ouvert : cet argument n’est pas une preuve incontestable que les machines ne peuvent pas comprendre. Appliqué à ChatGPT, il invite surtout à distinguer une réponse convaincante d’une compréhension réelle. Reste à savoir quels signes permettraient de reconnaître cette compréhension sans la réduire à une performance, ni la réserver d’avance aux humains.