Aurlom

    L'infini et la crise des fondements : Cantor, Hilbert, Gödel

    Événement
    8 min de lecture1874 - 1936

    Y a-t-il autant de nombres pairs que de nombres entiers ? Plus de points sur une droite que de nombres entiers ? L'ensemble de tous les ensembles existe-t-il ? Peut-on prouver que les mathématiques ne se contredisent pas ? Entre 1874 et 1936, ces questions, qui semblent des jeux d'esprit, ont provoqué la plus grave crise de l'histoire des mathématiques, ébranlé l'idée de vérité absolue et, chemin faisant, donné naissance à l'informatique.

    Tout part de Georg Cantor (1845-1918), qui ose ce que les mathématiciens évitaient depuis Aristote : traiter l'infini comme un objet. Il démontre en 1874 qu'il y a « plus » de nombres réels que de nombres entiers, qu'il existe donc une hiérarchie d'infinis, et crée la théorie des ensembles, qui deviendra le langage de toutes les mathématiques. Ses collègues (Kronecker) le traitent de « corrupteur de la jeunesse » ; il finit sa vie en asile psychiatrique. Mais en 1901, Bertrand Russell découvre que la théorie naïve des ensembles est contradictoire (le paradoxe de l'ensemble des ensembles qui ne se contiennent pas eux-mêmes). Les fondements vacillent.
    David Hilbert, le plus grand mathématicien de son temps, propose alors un programme (1900-1920) : formaliser entièrement les mathématiques et démontrer, par des moyens élémentaires, qu'elles sont cohérentes (sans contradiction) et complètes (toute proposition vraie est démontrable). « Nous devons savoir, nous saurons. » En 1931, un jeune Autrichien de 25 ans, Kurt Gödel, démontre que ce programme est impossible : tout système formel assez riche pour contenir l'arithmétique contient des propositions vraies mais indémontrables, et ne peut prouver sa propre cohérence. Ce sont les théorèmes d'incomplétude. En 1936, Alan Turing, cherchant à préciser ce que signifie « calculable », invente une machine abstraite qui est le modèle de tous les ordinateurs.
    Pour le candidat, cet épisode est un cas exemplaire pour réfléchir sur les limites de la raison, la vérité, l'infini et le rapport entre rigueur et création.

    Définition

    L'infini actuel est l'infini considéré comme un tout achevé (l'ensemble de tous les entiers), par opposition à l'infini potentiel, simple possibilité d'aller toujours plus loin (on peut toujours ajouter 1). Aristote n'admettait que le second ; Cantor introduit le premier en mathématiques avec les nombres transfinis. Deux ensembles ont « autant » d'éléments (même cardinal) si l'on peut les mettre en correspondance un à un ; par ce critère, les entiers pairs sont aussi nombreux que les entiers (Galilée l'avait noté avec perplexité), mais les nombres réels sont plus nombreux que les entiers : c'est l'argument de la diagonale (1891).
    La théorie des ensembles est la théorie mathématique qui prend pour objets de base les collections d'objets (ensembles) et la relation d'appartenance ; elle a été axiomatisée (Zermelo, 1908 ; Fraenkel, 1922) pour échapper aux paradoxes et sert depuis de fondement à l'ensemble des mathématiques : tout objet mathématique (nombre, fonction, espace) peut y être défini comme un ensemble.
    Un système formel est un ensemble de symboles, d'axiomes et de règles de déduction purement mécaniques, sans référence au sens. Le formalisme (Hilbert) est la position selon laquelle les mathématiques sont un tel jeu de symboles dont il faut seulement garantir la cohérence (on ne peut démontrer à la fois A et non-A). La complétude est la propriété d'un système où toute proposition vraie est démontrable.
    Les théorèmes d'incomplétude de Gödel (1931) établissent : (1) tout système formel cohérent contenant l'arithmétique comporte des propositions vraies qu'il ne peut ni démontrer ni réfuter ; (2) un tel système ne peut démontrer sa propre cohérence. La preuve repose sur une proposition qui, codée en nombres, affirme d'elle-même « je ne suis pas démontrable » : version mathématique du paradoxe du menteur.

    Contexte

    Le XIXe siècle est celui de la rigueur : Cauchy (1821) puis Weierstrass fondent l'analyse sur la notion de limite, éliminant les infiniment petits flous de Newton et Leibniz ; Dedekind construit les nombres réels (1872) ; les géométries non euclidiennes (Lobatchevski 1829, Bolyai 1832, Riemann 1854) prouvent que les axiomes sont des choix, non des évidences. C'est dans ce climat que Cantor, professeur à Halle, publie en 1874 son premier article sur la non-dénombrabilité des réels, puis, dans les années 1880-1890, sa théorie des nombres transfinis. Il rencontre l'hostilité de Kronecker (« Dieu a fait les nombres entiers, tout le reste est l'œuvre de l'homme ») et de Poincaré (« la théorie des ensembles est une maladie »), mais le soutien de Hilbert : « Personne ne nous chassera du paradis que Cantor a créé. »
    Les paradoxes surgissent vers 1900 : Burali-Forti (1897), Russell (1901), qui écrit à Frege alors que celui-ci achève son grand ouvrage fondant l'arithmétique sur la logique ; Frege ajoute en post-scriptum que « l'édifice s'est effondré ». Trois écoles s'affrontent : le logicisme (Russell et Whitehead, Principia Mathematica, 1910-1913 : réduire les mathématiques à la logique), l'intuitionnisme (Brouwer : les mathématiques sont une construction mentale ; rejet de l'infini actuel et du tiers exclu), le formalisme (Hilbert). Au congrès de Paris en 1900, Hilbert avait posé 23 problèmes pour le siècle ; le deuxième était la cohérence de l'arithmétique.
    Gödel, jeune membre du Cercle de Vienne, présente son résultat en 1930 à Königsberg, où Hilbert prononce le même jour son « Wir müssen wissen, wir werden wissen » ; l'article paraît en 1931. Turing (1936) et Church (1936) prouvent ensuite qu'il n'existe pas de procédure mécanique décidant toute question mathématique (problème de la décision), ce qui exige de définir la « procédure mécanique » : la machine de Turing. Gödel émigre à Princeton en 1940, ami d'Einstein, et meurt en 1978 de faim, par peur d'être empoisonné. Les mathématiques ont survécu à la crise : la théorie axiomatique des ensembles (ZFC) leur sert de cadre commun, et Bourbaki en fera le socle de son entreprise.

    Mécanismes

    • La bijection : mettre les éléments de deux ensembles en correspondance un à un. Si c'est possible, ils ont le même cardinal. Ainsi les entiers et les pairs (n ↔ 2n), ou les entiers et les rationnels (Cantor, 1874). L'« hôtel de Hilbert », toujours plein mais qui peut accueillir un nouveau client en décalant chacun d'une chambre, illustre ces propriétés paradoxales.
    • L'argument diagonal : pour montrer qu'on ne peut numéroter tous les réels entre 0 et 1, on suppose une liste, et l'on construit un nombre qui diffère du premier à la première décimale, du deuxième à la deuxième, etc. : il n'est pas dans la liste. Le même argument, réutilisé par Gödel et Turing, est l'une des idées les plus fécondes du XXe siècle.
    • Le paradoxe de Russell : soit R l'ensemble des ensembles qui ne s'appartiennent pas ; R s'appartient-il ? Oui implique non, non implique oui. Version populaire : le barbier qui rase tous ceux qui ne se rasent pas eux-mêmes. Remède : restreindre la formation des ensembles (axiomes de Zermelo).
    • La formalisation : écrire les mathématiques dans un langage symbolique où la déduction se vérifie mécaniquement, sans intuition. Hilbert espérait ainsi une preuve « finitaire » de cohérence.
    • L'arithmétisation (codage de Gödel) : attribuer un numéro à chaque symbole, formule et démonstration, de sorte que « la formule n est démontrable » devienne un énoncé arithmétique ; le système peut alors parler de lui-même, et Gödel construit la formule qui dit « je ne suis pas démontrable ».
    • La machine de Turing : un ruban infini, une tête de lecture, une table d'instructions ; tout ce qui est calculable l'est par une telle machine (thèse de Church-Turing). Turing montre qu'aucune machine ne peut décider si une machine quelconque s'arrêtera : le problème de l'arrêt, indécidable.

    Enjeux & débats

    1) Gödel a-t-il montré les limites de la raison ? Une lecture populaire tire des théorèmes d'incomplétude que « la raison a des limites », que « la vérité dépasse la preuve », voire que l'esprit humain surpasse la machine (Lucas, Penrose). Les logiciens appellent à la prudence : le théorème porte sur des systèmes formels précis, non sur la raison en général ; il ne dit pas que certaines vérités sont inconnaissables, mais qu'aucun système fixe ne les capture toutes ; et Gödel lui-même, platonicien, y voyait la preuve que les mathématiques ne sont pas un simple jeu de symboles.
    2) Les mathématiques sont-elles fondées ? Le formalisme a échoué à prouver la cohérence par des moyens élémentaires ; le logicisme a produit des Principia de 2 000 pages où 1 + 1 = 2 est démontré à la page 379 ; l'intuitionnisme mutile les mathématiques classiques. Pourtant, les mathématiciens travaillent sans angoisse : la théorie ZFC n'a jamais produit de contradiction en un siècle, et la pratique fonde autant que la théorie. Pour certains philosophes (Wittgenstein), la crise n'était qu'un malentendu.
    3) L'infini : mathématique, physique, théologique ? Cantor voyait dans ses transfinis une échelle vers l'Absolu (Dieu) et correspondait avec des théologiens ; les intuitionnistes refusent l'infini actuel comme une fiction ; les physiciens l'évitent (« renormalisation ») ; la cosmologie se demande si l'univers est infini. La question est toujours ouverte : l'hypothèse du continu (existe-t-il un infini entre celui des entiers et celui des réels ?), premier problème de Hilbert, a été prouvée indécidable dans ZFC (Gödel 1940, Cohen 1963) : on peut l'admettre ou la nier sans contradiction.
    4) Rigueur ou création ? La crise a imposé un idéal de rigueur (Bourbaki) que certains jugent stérilisant : Poincaré défendait l'intuition, Grothendieck ou Thurston la vision géométrique. Aujourd'hui, les assistants de preuve (Lean, Coq) vérifient mécaniquement des démonstrations entières, et l'IA commence à en proposer : le rêve de Hilbert d'une mathématique mécanique renaît, avec les limites que Gödel lui a fixées.

    Exemples

    • Cantor et la non-dénombrabilité des réels (1874, 1891) : il existe une infinité d'infinis ; le cardinal des entiers (aleph-zéro) est le plus petit ; celui des réels (le continu) est strictement plus grand.
    • L'hôtel de Hilbert (1924) : hôtel à une infinité de chambres, toutes occupées, qui peut pourtant loger un nouveau client, une infinité de nouveaux clients, et même une infinité d'infinités ; conférence de vulgarisation devenue le paradoxe pédagogique par excellence.
    • La lettre de Russell à Frege (16 juin 1902) : Russell signale la contradiction dans le système de Frege, dont le second volume est sous presse ; Frege répond avec une dignité restée célèbre et ajoute un appendice reconnaissant l'effondrement.
    • Les 23 problèmes de Hilbert (Paris, 1900) : programme de recherche pour le XXe siècle ; le premier (hypothèse du continu) s'est révélé indécidable, le deuxième (cohérence de l'arithmétique) impossible par les moyens prévus, le dixième (résolution des équations diophantiennes) impossible (Matiiassevitch, 1970) ; plusieurs restent ouverts (hypothèse de Riemann).
    • Königsberg, 7 septembre 1930 : Gödel annonce son théorème lors d'une table ronde ; le lendemain, Hilbert, dans la même ville, prononce son discours d'adieu : « Nous devons savoir, nous saurons », gravé sur sa tombe.
    • Turing et le problème de l'arrêt (1936) : l'article « On Computable Numbers » définit la machine universelle et prouve l'indécidabilité ; Turing appliquera ses idées au décryptage d'Enigma (1939-1945), puis aux premiers ordinateurs.
    • Gödel à Princeton : ami intime d'Einstein, qui disait venir à l'Institut « pour avoir le privilège de rentrer à pied avec Gödel » ; lors de sa naturalisation (1947), il prétend avoir trouvé une faille logique dans la Constitution américaine permettant une dictature ; meurt en 1978.

    Pièges & confusions

    • Faire dire à Gödel que « tout est relatif » ou « rien ne peut être prouvé » : contresens majeur ; le théorème porte sur des systèmes formels précis et prouve au contraire quelque chose de très solide.
    • Croire que les paradoxes ont détruit les mathématiques : elles ont été refondées (axiomes de Zermelo-Fraenkel) et n'ont jamais été aussi productives.
    • Confondre infini potentiel et infini actuel : la distinction aristotélicienne est la clé de toute la question.
    • Penser que « l'infini » est un nombre unique : il y a une hiérarchie infinie d'infinis (aleph-zéro, continu…).
    • Ignorer le lien avec l'informatique : la machine de Turing naît de la crise des fondements ; l'ordinateur est un enfant de la logique.

    Usage concours / oral

    Cet épisode est une référence de premier ordre pour des sujets sur la vérité, les limites du savoir, l'infini, la certitude ou la raison. Le théorème de Gödel est très souvent cité, et presque toujours mal : le citer correctement (« tout système formel cohérent contenant l'arithmétique comporte des propositions vraies indémontrables ») et en signaler les contresens courants vous distingue immédiatement. Ne l'utilisez jamais pour dire que « la vérité est relative » ; utilisez-le pour dire que la vérité déborde toujours tout système fixe de preuve, ce qui est une thèse sur la fécondité de la raison, non sur son impuissance.
    L'hôtel de Hilbert et le paradoxe du barbier sont des exemples parfaits pour une accroche ou pour un oral : ils se racontent en trente secondes et font sourire un jury. La phrase de Hilbert sur le paradis de Cantor et son « nous saurons », prononcé le lendemain de l'annonce de Gödel, forment une ironie de l'histoire qui se raconte bien.
    Enfin, reliez cette histoire à l'informatique et à l'IA : Turing est un logicien avant d'être un ingénieur ; l'ordinateur est né d'une question sur la décidabilité ; et la question de savoir si une machine peut « faire des mathématiques » est aujourd'hui de retour avec les assistants de preuve. Cela vous permet de conclure sur l'actualité tout en ayant démontré une culture historique et philosophique solide.

    Sources

    • Logicomix
    • Gödel, Escher, Bach : les brins d'une guirlande éternelle
    • Le Théorème de Gödel
    • Kurt Gödel's Incompleteness Theorems
    • On Computable Numbers, with an Application to the Entscheidungsproblem

    Questions d'oral

    1Y a-t-il autant de nombres pairs que de nombres entiers ? Comment le sait-on ?2Qu'est-ce que le paradoxe de Russell ?3Quel était le programme de Hilbert ?4Que démontrent les théorèmes d'incomplétude de Gödel, et que ne démontrent-ils pas ?5En quoi la crise des fondements a-t-elle donné naissance à l'informatique ?

    + 2 autres questions

    Continuez votre exploration

    Fiches du même thème

    Voir toutes les fiches Mathématiques

    Découvrez aussi :

    Tous les thèmesTous les quizToutes les flashcardsRechercher une fiche