Des extra-terrestres feraient-ils les mêmes mathématiques que nous ? Sûrement pas. Les objets mathématiques considérés par chaque époque comme fondamentaux, mais aussi les méthodes de raisonnement, viennent d’une certaine conception des mathématiques, de leur but et de leur sens.

Au-delà du cadre de la discipline, cette conception induit les relations des mathématiques avec les autres sciences, la façon de les enseigner, et plus généralement leur place dans le champ de la connaissance. Ces questions sont d’autant plus cruciales aujourd’hui que les mathématiques envahissent de plus en plus de disciplines scientifiques, parfois au détriment de l’empirisme, comme si formaliser et mathématiser apportait la « vérité ». Pour bien comprendre ces enjeux, il faut s’intéresser à la genèse de la conception actuelle des mathématiques, au début du XXe siècle. C’est alors une période de mutation et des façons, parfois très différentes, de faire des mathématiques coexistent. La controverse qui opposa Brouwer et Hilbert est représentative de cette époque. Brouwer milite pour des mathématiques orientées vers le réel, le concret et l’humain, et fonde l’école de l’intuitionnisme. Hilbert est un partisan de la formalisation extrême aussi bien en mathématiques que dans les autres sciences. Il cherche les « vérités mathématiques » et initie le programme qui porte son nom, dont le but est de démontrer mathématiquement la cohérence des mathématiques, ce qui équivaut pour lui à montrer que les démonstrations faites avec des objets abstraits sont justes.

Existence et construction : des objets mathématiques intangibles

Hilbert et Brouwer s’accordent tout d’abord sur un point majeur : les nombres entiers sont concrets, et les objets abstraits ne sont là que pour prouver des propriétés sur ces entiers. Regardons maintenant un profond point de désaccord entre ces deux mathématiciens. Comment prouver qu’il existe un objet qui vérifie telle et telle propriété ? Il y a deux façons canoniques de procéder, que l’on peut expliquer par un exemple concret : comment prouver qu’il existe quelqu’un qui a acheté ce journal ? Une première démonstration possible consisterait à trouver quelqu’un qui l’a effectivement acheté, disons par exemple la personne qui est à ma gauche. Une autre serait de dire que si personne ne l’avait acheté, on aurait récolté zéro euro. Or, on a récolté quarante euros ; c’est qu’il y a donc forcément quelqu’un qui a acheté ce journal. Cependant ces deux solutions sont profondément différentes, car mettons maintenant que je veuille trouver cette personne, pour connaître son avis sur ce journal. Si j’ai utilisé la première solution, il me suffit de demander à la personne qui est à ma gauche. Mais si j’ai utilisé la seconde, je n’ai pas exhibé de « témoin », je suis incapable de trouver une personne qui a acheté ce journal, et je n’aurai donc pas la réponse à ma question. Cet exemple est évidemment fallacieux, car comme il y a un nombre fini d’humains sur cette planète, je peux aller voir chaque être humain pour lui demander si c’est bien lui qui a acheté le journal et je finirai forcément par tomber sur la bonne personne. Mais supposons pour un moment qu’il y a une infinité d’êtres humains : je peux prouver (avec la deuxième méthode) qu’il existe quelqu’un qui a acheté ce journal et cependant passer toute ma vie à chercher, sans jamais réussir à trouver quelqu’un qui l’a acheté. Cela se transpose en mathématiques de la façon suivante. Comment prouver qu’il existe un objet qui vérifie telle et telle propriété ? La première façon, appelée constructive, est de trouver effectivement un tel objet. La seconde, appelée non constructive, est de poser un raisonnement par l’absurde : on suppose qu’il n’existe pas un tel objet, et on arrive à une contradiction. Les deux démontrent la même propriété. Mais si maintenant on me demande « ah bon, et quel est cet objet ? », la démonstration constructive me permet de le donner, contrairement à la non constructive. Si le but est de savoir ce qui est vrai et ce qui est faux, ces deux preuves sont équivalentes, mais si on considère que les vérités sont faites pour être utilisées, la première technique est plus adéquate. Par ailleurs, il y a des résultats qui ne peuvent être prouvés que de façon non constructive.

Intuitionnisme et formalisme : deux conceptions opposées

Partisan des preuves constructives, Brouwer crée l’école de l’intuitionnisme. Les intuitionnistes s’opposent à l’abstraction comme but en soi. Ils s’opposent à une vision des mathématiques comme une espèce de jeu purement formel, s’éloignant de la réalité. Ils militent pour des mathématiques orientées vers les humains : un objet mathématique abstrait existe uniquement à partir du moment où nous (les êtres humains) pouvons le construire à partir de « briques élémentaires » qui viennent du réel, comme les entiers naturels. Les preuves non constructives sont donc à bannir : si l’on prouve qu’un objet existe, on doit être capable de le construire, sinon cela devient une recherche de vérité sur des objets abstraits. Concrètement, il se trouve que cela revient à refuser d’utiliser le principe du tiers exclu et le raisonnement par l’absurde. Le principe du tiers exclu est le principe selon lequel une proposition est soit vraie, soit fausse, ce qui se formule mathématiquement A¬A (A ou non A). Ce principe est intrinsèquement non constructif : soit « A » est vrai, soit « non-A » est vrai ; mais je suis bien incapable de savoir lequel l’est effectivement. Le « programme de Brouwer » consiste donc à refondre les mathématiques, en n’utilisant plus que des preuves constructives. Pour ses détracteurs, c’est une trop grande restriction et cela reviendrait à abandonner la majeure partie des résultats mathématiques. C’est une critique justifiée, mais en même temps, il faut bien se rendre compte que les mathématiques dites classiques qui combinent abstraction, formalisation et non-considération des « principes de précaution » de Brouwer peuvent poser quelques problèmes. L’axiome du choix en fait partie. Cet axiome est un outil indispensable dans le paradigme non constructiviste. Il permet de démontrer des résultats qui, sans être contradictoires, sont fortement contre-intuitifs. On peut montrer que si l’on prend un petit pois, on peut le partitionner en une infinité de petits morceaux, et les réarranger pour obtenir le soleil. Les mathématiciens, préférant toujours prouver le plus de résultats possible plutôt que de se poser des questions profondes sur le sens de leur activité, refusent alors de s’en priver.

Naissance et mort du programme de Hilbert

Retournons maintenant à Hilbert. Pour lui, les entiers existent et le reste des objets abstraits n’est là que pour prouver des propriétés sur ces entiers. Cependant, pour Hilbert, le but de l’activité mathématique est de trouver (le plus possible) des « vérités » vérifiées par ces entiers, contrairement à Brouwer qui se pose toujours la question de l’utilisation des vérités. Tout moyen de prouver des résultats, y compris grâce à des objets abstraits et des raisonnements non constructifs, doit donc être utilisé, tant que ces méthodes n’amènent pas de contradiction. Mais comment être sûr qu’on n’aura pas de contradiction ? Hilbert entend donc démontrer mathématiquement que la théorie axiomatique des mathématiques (avec son lot d’objets abstraits) est cohérente. Pour que cette démonstration de cohérence, qui consiste à légitimer l’utilisation d’objets abstraits, ait une quelconque valeur, il faut qu’elle utilise uniquement des raisonnements et des objets concrets. Mais la théorie axiomatique et les démonstrations sont-elles des objets concrets ? Dans la vision formaliste de Hilbert, oui : une théorie est un ensemble d’axiomes. Une démonstration est une suite finie d’étapes qui commence avec des axiomes et se termine par l’énoncé à prouver. Une démonstration peut mettre en jeu des concepts abstraits ou irréels, mais on peut toujours l’écrire sur une feuille. C’est donc toujours un objet concret. L’objet méta-mathématique (la démonstration) est donc lui-même un objet mathématique. Une phrase résume bien la pensée de Hilbert ; c’est celle qui est écrite sur sa tombe : « Wir müssen wissen, wir werden wissen. » (Nous devons savoir, nous saurons).

Catastrophe : en 1931, Gödel donne un coup d’arrêt total au programme de Hilbert en démontrant ses deux fameux théorèmes d’incomplétude : 1. Toute théorie cohérente, suffisamment puissante, possède des énoncés vrais mais non démontrables dans cette théorie. 2. Toute théorie cohérente, suffisamment puissante, ne peut démontrer sa propre cohérence. Le premier théorème invalide le postulat de Hilbert, selon lequel tout énoncé est soit prouvable, soit réfutable. Le second rend son programme irréalisable : le but était de démontrer la cohérence des mathématiques en utilisant juste un petit fragment (le fragment « finitiste », le plus sûr), mais Gödel nous dit que c’est impossible (une théorie ne peut pas démontrer sa cohérence, donc a fortiori une petite partie de la théorie ne peut démontrer la cohérence du reste de la théorie).

Que reste-t-il des « programmes » de ces mathématiciens ?

Le programme de Brouwer (fonder les mathématiques sur des preuves constructives) est clairement tombé en désuétude, étant considéré comme bien trop restrictif. Cependant les idées de Brouwer restent très importantes dans la théorie de la démonstration. Du programme de Hilbert, on retient surtout ce qui l’a tué : les théorèmes d’incomplétude. Cependant sa « philosophie » s’est énormément diffusée. Les mathématiques sont de plus en plus présentes dans les autres sciences (humaines et de la nature) et la confiance dans leur « toute puissance » de plus en plus répandue, et c’est d’autant plus vrai avec leur nouveau moyen d’application : l’informatique, et de son prolongement, l’intelligence artificielle (IA). Rien d’étonnant que certains tenants de l’IA, aussi convaincus que l’était Hilbert de la « vérité » toute puissante et incontestable des mathématiques, essaient d’ailleurs quelquefois d’attaquer les théorèmes de Gödel, qui ont joué jusqu’ici le rôle d’un garde-fou des trop grandes certitudes.

Félix Loubaton

PAGE 5

Dessin de Ludovic Lalliat