Blog de Paul Jorion

Contribution inédite au travail collaboratif que j’ai entrepris avec Yu Li (Université de Picardie) sur la conjecture P vs. NP.

Que démontrent les mathématiciens, et le font-ils d’une manière digne de ce nom ?

Qu’est-ce qui est vrai en mathématiques ?

Il est écrit dans une introduction aux travaux de Kurt Gödel :

«  … La logique aristotélicienne repose sur deux piliers : un ensemble de prémisses, ou hypothèses, qui sont considérées comme vraies sans preuve, et une collection de règles d’inférence, par lesquelles nous transformons un jugement vrai en un nouveau jugement vrai. […] Tant que nous pouvons nous convaincre que les prémisses sont vraies, alors les conclusions [sont] un fait aussi solide et inéluctable qu’il ne le sera jamais. C’est une certitude qui découle du contenu sémantique des prémisses et du processus de déduction établi dans notre esprit et formalisé par Aristote. Ce que Gödel a découvert, c’est que même s’il existe des relations vraies entre des nombres purs, les méthodes de la logique déductive sont tout simplement trop faibles pour que nous puissions prouver tous ces faits. En d’autres termes, la vérité est simplement plus vaste que la preuve » Casti & DePauli 2000 : 4-5).

Bien que largement accepté, ce qui est affirmé dans le deuxième paragraphe du passage cité ci-dessus, repose sur un malentendu. En fait, que la vérité soit plus vaste que la preuve n’est pas une découverte de Gödel, c’est en fait le point de départ de toute la réflexion d’Aristote sur la vérité.

Ce malentendu fondamental est cependant loin d’être anodin : il a infecté les mathématiques de différentes manières. Les mathématiciens ont tenté de démontrer des affirmations qui n’avaient aucun besoin d’être démontrées puisque leur vérité était établie autrement, et ce faisant, ils ont introduit des démonstrations erronées visant à prouver… l’indémontrable.

« La vérité est simplement plus vaste que la preuve ». En effet, la preuve n’était qu’une des trois sources de la vérité selon Aristote.

Aristote a déterminé qu’il y avait trois moyens connus pour atteindre la vérité, pour montrer que quelque chose est vrai et aucun n’a été ajouté à sa liste depuis son temps :

1° La vérité connue à partir de l’évidence que nous procure la perception des cinq sens, lorsqu’elle peut être corroborée en sorte que l’on puisse distinguer avec certitude les faits des illusions.

2° La vérité tirée des définitions communément admises, par lesquelles nous attribuons à un unique mot ou à une expression, la signification d’un autre ensemble de mots : « le faon est le petit du cerf et de la biche » ; désormais, chaque fois que je serai tenté de dire « petit du cerf et de la biche », je pourrai dire  plutôt « faon ». En mathématiques, les définitions sont appelées « axiomes ».

3° La vérité atteinte dans les conclusions de syllogismes bien formés, c’est-à-dire syntaxiquement corrects, par des déductions valides à partir de prémisses vraies. En mathématiques, nous appelons l’équivalent de suites de conclusions de syllogismes valides, des « théorèmes ».

Transposés dans le langage des mathématiques, ces trois types de vérité deviennent :

1° La vérité issue d’observations du monde physique exprimée en langage mathématique (les mathématiques en tant « physique virtuelle »)

2° La vérité qu’établissent les axiomes, qui sont des définitions exprimées en langage mathématique

3° La vérité obtenue par la démonstration d’un théorème (la conclusion de la preuve apportée).

Parce qu’au cours des récents siècles les mathématiciens ont ignoré la principale et première source de la vérité : l’évidence des sens (vérification faite qu’il ne s’agit pas d’une illusion perceptive), ils ont essayé de prouver tout ce qui semblait être vrai uniquement à l’aide d’axiomes et de théorèmes, en négligeant les vérités « évidentes » qui nous viennent des perceptions de nos sens, c’est-à-dire comme données captées à partir du monde qui nous entoure tel qu’il est. 

Il existe ainsi un « théorème de (Reuben) Goodstein » qui « prouve » … une observation sur les nombres naturels. Ainsi, au lieu qu’il soit dit : « Voilà une curiosité qui apparaît lorsque nous définissons d’une certaine manière une suite de nombres naturels », Goodstein a cru bon de démontrer un théorème énonçant ce que nous pouvons observer, prenant comme point de départ de sa démonstration, un ensemble d’axiomes. Révélateur du caractère artificiel de la démonstration mathématique d’un fait d’observation, le fait que si le théorème de Goodstein peut être démontré dans un certain cadre mathématique (arithmétique du second ordre), il ne l’est pas dans un autre qui lui est pourtant étroitement apparenté (arithmétique de Peano).

Dans leur volonté de tout démontrer, les mathématiciens ont produit des démonstrations erronées : des tentatives maladroites et truffées d’erreurs de démontrer ce qui n’avait aucun besoin d’être démontré – et qui était donc essentiellement indémontrable. Ces preuves inutiles ont été réalisées en recourant à diverses astuces telles que partir de fausses prémisses (illusions, paradoxes, raisonnements fallacieux), ou présenter comme conclusion d’une démonstration digne de ce nom, une vérité qui est en réalité, soit une observation du monde physique traduite en langage mathématique (« physique virtuelle »), soit un axiome.

Démontrer comme un théorème ce qui a déjà été établi comme vrai par le moyen plus immédiat de l’observation ne présente aucun intérêt. La démonstration est dans ce cas-là bien entendu superflue et un tel « théorème-n’ayant-pas-besoin-d’être-démontré » est alors vrai,

1° soit parce qu’il est dans ce cas-là, un axiome déguisé (c’est-à-dire une définition) et que la démonstration est alors un simple sophisme : une petitio principii, un raisonnement circulaire, où ce que l’on prétend avoir découvert in fine était connu avant même de commencer, la démonstration constituant de fait une simple reformulation des axiomes.

2° soit parce qu’est dissimulée dans l’un des axiomes une observation dérivée de l’évidence des cinq sens ; dans un tel cas, les mathématiques ont été utilisées par les mathématiciens pour bâtir une « physique virtuelle » et ce sont leurs intuitions du monde qui nous entoure qui les ont guidés à leur insu. 

J’ai rapporté dans Comment la vérité et la réalité furent inventées que dans le cas historique du calcul infinitésimal, il ne s’agissait pas d’intuitions dont les rouages seraient restés opaques à la conscience de Newton et Leibniz, les protagonistes à l’œuvre, mais de manière quasi explicite chez eux, d’une validation expérimentale des mathématiques dont ils mettaient au point la méthodologie. Ils définissaient en effet ce que seraient les règles de cette nouvelle méthode de calcul de telle manière que leurs modèles de l’orbite des planètes soient le reflet exact du mouvement observé, révélant la prééminence qu’ils accordaient implicitement à la physique sur les mathématiques dans la mise au point de leur nouvelle méthodologie (Jorion 2009 : 332-346). L’autre approche possible aurait été d’exiger avant tout la rigueur mathématique, laquelle aurait fait apparaître de légères anomalies dans l’orbite des planètes, la prééminence étant accordée dans ce cas-ci aux préceptes mathématiques plutôt qu’au souci de rendre compte avec exactitude des phénomènes physiques. 

Les conditions à remplir par une démonstration pour être digne de ce nom

Dans la critique systématique que je fais de la démonstration par Gödel de son théorème d’incomplétude de l’arithmétique dans Comment la vérité et la réalité furent inventées (2009 : 285-326), je montre en particulier comment à un tournant critique, Gödel triche en glissant subrepticement dans sa démonstration le fait qu’une proposition soit vraie alors que sa vérité ne lui vient ni d’être un axiome, ni un théorème démontré, mais de résulter de l’évidence des sens. Autrement dit, au moment où il se retrouve embourbé dans un paradoxe de sa propre construction, Gödel fait passer en douce de la physique pour de la mathématique.  

La démonstration par Gödel de son théorème d’incomplétude de l’arithmétique échoue à être « digne de ce nom » pour deux séries de raisons : pour avoir utilisé à différentes étapes de sa démonstration des arguments (règles de transformation) d’un trop faible niveau de validité (démonstrabilité) et pour s’être appuyé sur une notion intuitive de la vérité dont le concept précis varie selon son bon vouloir en fonction des contextes.

Au lieu de s’en tenir à des arguments jugés de qualité « analytique » par Aristote, c’est-à-dire dignes d’être utilisés dans une véritable démonstration au statut « scientifique », Gödel s’est égaré en recourant à des arguments jugés plus modestement de qualité « dialectique » (acceptables devant les tribunaux et dans la sphère du politique) telle la preuve par l’absurde, ou allant même jusqu’à utiliser des arguments purement « rhétoriques » (acceptables uniquement dans la conversation courante). Tel est le cas dans sa démonstration, d’une proposition affirmant d’elle-même qu’elle est indémontrable, n’ayant pour soutenir cette affirmation aucune autre preuve que sa « propre parole », l’équivalent dans une conversation courante de « C’est vrai parce que je te le dis ». On attire souvent l’attention sur le fait qu’il y a à cet endroit une faiblesse dans la démonstration parce que l’affirmation est auto-référentielle, mais le fond du problème est en réalité que rien ne vient soutenir cette pseudo-affirmation d’une proposition à son propre propos, une proposition ne pouvant être « crue sur parole », faute d’être capable d’engager sa responsabilité.

Quand Gödel affirme à propos de cette proposition qu’elle est vraie bien qu’il soit impossible de la prouver, cela signifie par nécessité qu’elle est vraie pour l’une des deux autres raisons possibles pour lesquelles une proposition est vraie : soit, qu’elle est un axiome (l’équivalent mathématique d’une définition), soit qu’elle dérive de l’évidence des sens (vérification faite qu’il ne s’agit pas d’une illusion perceptive). Comme le contexte de la démonstration exclut que la proposition en question ne soit qu’une vaste tautologie : un axiome caché ou non reconnu, la seule option restante est que sa vérité découle de l’évidence des sens. Mais cela aurait pour implication que cette proposition aurait pour référence le monde sensible qui nous entoure, dont elle offrirait un compte rendu véridique, ce qui voudrait dire que Gödel apporte à son insu le renfort de la physique à ce qu’il affirme ne relever que des mathématiques.

Comment est-il possible que Gödel n’ait pas noté une telle confusion dans son argumentation entre mathématiques et physique ? Parce qu’il est de notoriété publique qu’il confondait les deux : Gödel était un platonicien par conviction idéologique, convaincu que le monde est fait de nombres dans sa constitution intime et que, comme l’une des conséquences de cette croyance, tout ce que nous connaissons dans le monde par l’évidence des sens peut également être prouvé mathématiquement. Bertrand Russell a dit de lui : « Gödel s’est avéré être un platonicien pur et dur, et croyait apparemment qu’un ‘Non’ éternel était inscrit au firmament, où les logiciens vertueux pouvaient espérer le rencontrer un jour » (dans Autobiography de Russell, cité par Dawson 1988 : 8).

Je défends ici au contraire la thèse que pour être « digne de ce nom », une démonstration mathématique n’est pas autorisée à importer subrepticement des éléments de preuves empruntés à la physique : elle est tenue de se cantonner entièrement au domaine de nature formelle des mathématiques. On comprend aisément que si cette distinction n’était pas faite, la notion de « modèle mathématique inadéquat de la réalité physique » perdrait toute signification. 

Dans leur ouvrage déjà cité, Casti & DePauli, trahissent involontairement leur malaise à cet égard lorsqu’ils écrivent : « Ce que Gödel a découvert, c’est que même s’il existe des relations vraies entre des nombres purs, les méthodes de la logique déductive sont tout bonnement trop faibles pour que nous puissions prouver tous ces faits. En d’autres termes, la vérité couvre davantage que ce qui peut être prouvé. Ce fait ne semble pas trop surprenant lorsqu’on le replace dans le contexte de la vie quotidienne. Nous sommes tous conscients de choses que nous ‘savons’, mais qui, selon nous, ne peuvent jamais être déduites logiquement de manière formelle, à la manière d’Aristote. En fait, le professeur et philosophe à Oxford J. L. Austin, lorsqu’il fut informé pour la première fois du résultat de Gödel, fit la remarque : ‘Qui eut pu penser autrement ?’. L’homme de la rue dirait probablement la même chose si quelqu’un annonçait que tout ce qui est vrai ne peut être connu qu’en suivant un processus de déduction logique. Mais ce n’est pas le cas des mathématiciens ! » (2000 : 4-5). Casti & DePauli auraient dû écrire plus spécifiquement : « Mais ce n’est pas le cas des mathématiciens acquis à la conception mystique platonicienne » dont la croyance est que les mathématiques et la physique ne sont qu’une seule et même chose, ou tout au moins sont incapables de faire la distinction entre les deux. D’où leur indifférence à la qualité de la preuve mobilisée dans leurs démonstrations, et la négligence « je-m’en-foutiste » de Gödel en particulier sous ce rapport.

Que le nœud du problème – source de toutes les confusions chez lui – réside dans l’engagement idéologique platonicien de Gödel, Casti et DePauli le mettent encore davantage en lumière – même si ce n’est qu’accidentellement – dans un passage où ils tentent de clarifier sa démarche à l’aide d’une illustration mettant en scène des… gâteaux au chocolat :

« Vérités = tous les gâteaux concevables qui satisfont au test d’être un gâteau au chocolat.

Preuves = toutes les recettes permettant de faire réellement des gâteaux au chocolat à l’aide de la Machine à Gâteaux au Chocolat.

Voici maintenant la question cruciale : existe-t-il une recette pour chaque gâteau au chocolat imaginable ? Ou, de manière équivalente, toute affirmation vraie est-elle démontrable ? Ce que nous demandons ici, c’est s’il existe de braves gâteaux au chocolat dans l’univers platonicien des gâteaux pour lesquels aucune recette ne peut être proposée » (ibid. 19-20).

« Dans l’univers platonicien… », on ne pouvait mieux dire : la démonstration de Gödel n’a de sens et n’est significative que sur la scène d’un théâtre où le Réel serait tout entier constitué de nombres et uniquement de nombres et où, du coup, la confusion serait entière entre deux représentations : celle du monde qui nous entoure, dont rend compte la physique, et celle du monde des entités mathématiques, outils que nous avons imaginés pour offrir une vision stylisée du monde autour de nous.

Références bibliographiques :

Casti, John L. & Werner DePauli, Gödel. A Life of Logic, Cambridge (Mass.) Perseus : 2000

Dawson, John W., « Kurt Gödel in Sharper Focus », in S. G. Shanker, Gödel’s Theorem in Focus, London : Croom Helm 1988

Jorion, Paul, Comment la vérité et la réalité furent inventées, Paris : Gallimard 2009