Les Monstres Mathématiques

Les monstres n’ont pas leur pareil pour se faufiler là où personne ne les attend. Peut-être est-ce là leur manifestation la plus terrifiante. Les mathématiques ont aussi leurs monstres. Ils n’ont pas de griffes, ne mordent pas. Ils n’effraient pas les enfants mais les mathématiciens, ou plutôt l’intuition mathématique. Moins connu que le monstre du Loch Ness, l’escalier du diable n’en est pas moins monstrueux. En voilà une présentation.

Imaginez un carré dont il faut relier l’angle en bas à gauche à l’angle en haut à droite. La courbe obtenue doit cependant remplir quelques conditions. Elle doit toujours avancer vers la droite. Ainsi, il est impossible de revenir vers la gauche ou même d’avoir des passages parfaitement verticaux. Elle doit aussi pouvoir être tracée sans lever le stylo, sans avoir de trou. Une telle courbe correspond mathématiquement au graphe d’une fonction continue valant 0 en 0 et 1 en 1. La diagonale du carré est un exemple d’une telle courbe, elle est liée à la fonction identité qui à tout réel x entre 0 et 1 associe ce même x. L’escalier du diable, découvert par le mathématicien Georg Cantor, est une telle courbe. Cet escalier a la propriété d’être presque partout plat. Cela signifie que si l’on tire au hasard un réel entre 0 et 1, la probabilité pour que la fonction monte en ce point est nulle. Cela équivaut à dire que la probabilité de tirer un point où la courbe est constante vaut 1. En cela, l’escalier du diable est un monstre mathématique. C’est un monstre car, intuitivement, une telle courbe semble impossible. Comment, en effet, une courbe continue qui est presque toujours plate (dans le sens très fort que nous venons d’indiquer) réussit-elle à monter jusqu’à l’angle en haut à droite ? Bien que notre intuition mathématique semble nous indiquer une impossibilité, Cantor a montré que l’escalier du diable existe bel et bien.

Un autre monstre mathématique, bien plus inquiétant pour les mathématiciens mais plus difficilement explicable, est la fonction de Weierstrass. C’est une courbe qui a la propriété d’être continue partout mais dérivable nulle part. Le concept de dérivabilité est un concept mathématique fondamental. Il est possible de l’assimiler à celui de pente de la courbe, le fait qu’elle soit plus ou moins penchée. Une image peut permettre de comprendre ce concept. L’existence de la courbe de Weierstrass équivaut à dire qu’un point peut se mouvoir dans l’espace sans jamais n’avoir de vitesse déterminée. Cela va contre l’intuition. Qu’un point n’ait pas de vitesse en un moment du temps (parce qu’il change subitement de vitesse par exemple), cela est compréhensible. Mais que ce soit comme si le point était en changement brusque de vitesse à chaque instant du temps parait inconcevable.

C’est cette inconcevabilité qui est à l’origine de ce que le mathématicien Hans Hahn, directeur de thèse de Gödel, a appelé la « crise de l’intuition ». Cette crise consiste dans l’écart, désormais indéniable, entre ce que l’intuition est capable de saisir comme vrai et même comme possible et ce que l’analyse logico-mathématique démontre comme irréfutable.

Face à cette crise, deux attitudes sont possibles. La première, celle de Hahn et de l’immense majorité des mathématiciens, consiste en la destitution de l’intuition comme fondement des jugements mathématiques, rôle que Kant lui avait attribué. La seconde consiste à refuser à l’analyse logico-mathématique un statut privilégié dans l’activité mathématique et à en faire la coupable de la crise de l’intuition. Selon cette conception, que l’on peut retrouver dans l’intuitionnisme de Brouwer par exemple, si la théorie va contre l’intuition, c’est que la théorie est mauvaise. Cette dualité de position est classique lors d’une controverse scientifique. Quand une expérience réfute une théorie, on peut soit en déduire que la théorie est fausse, soit en déduire que l’expérience a mal été menée. Sauf que, si dans la plupart des sciences une expérience répliquée finit par s’imposer au théoricien, il n’existe aucun mécanisme similaire en mathématique. Lorsque Brouwer fait de l’intuition le support fondamental de la vérité mathématique, le divorce avec un mathématicien privilégiant l’analyse logique semble consommé.

Les monstres mathématiques sont le symptôme d’une rupture sous-jacente entre l’activité mathématique telle qu’elle s’est faite, avec un recours croissant à la formalisation et l’idée que les mathématiques prennent leur origine et leur justification dans une intuition fondamentale telle que l’acte de compter. Face à cette rupture, une décision est nécessaire. Faut-il privilégier l’intuition ou la logique ? Cette décision peut vite devenir un dilemme. Le choix de Brouwer se fait au prix de l’abandon d’une certaine partie des mathématiques et passe par une révision de la logique, à savoir l’abandon de la loi du tiers-exclu selon lequel un énoncé qui n’est pas faux est vrai et vice-versa. En revanche le choix de l’analyse logique risque de dégénérer cette dernière est une suite de symboles dénués de signification. En effet, une analyse naturelle des formules mathématiques voudrait que la signification découle directement de l’intuition qui résiderait derrière. Regardons l’énoncé « 2 + 2 = 4 ». Qu’est-ce qui le justifie ? Nous pourrions dire que sa justification consiste dans le fait qu’il s’agit d’un théorème de la théorie formelle de l’arithmétique. Mais qu’est-ce qui justifie en dernière instance le fait que cette théorie formelle soit la bonne sinon le fait qu’elle confirme nos intuitions comptables au premier rang desquelles le fait que 2 + 2 = 4.

Au-delà de l’extrême de l’intuitionnisme brouwerien pour qui l’analyse logique n’a quasiment aucun rôle à jouer dans l’activité mathématique et celui du formalisme radical selon qui l’intuition est étrangère à la signification des formules mathématiques, la crise de l’intuition pose un véritable problème épistémologique pour les mathématiques. Les monstres mathématiques tels que l’escalier du diable et la fonction de Weierstrass sont au cœur de cette crise et toute la question consiste à savoir s’ils ne sont finalement pas si monstrueux ou s’il faut les chasser du domaine mathématique.

 

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *