Phénoménologie et refléxivite des mathématiques:la cosmologie de Cavaillés et la logique de Godel par Pierre Cassou-Noguès

(14/11/2001)

Phénoménologie et réflexivité des mathématiques :
la cosmologie de Cavaillès et la logique de Gödel

Pierre Cassou-Noguès

Je voudrais suivre les deux voies qu’une analyse de la réflexivité des mathématiques permet à Cavaillès, d’une part, et à Gödel, d’autre part, d’ouvrir à partir de la phénoménologie de Husserl.

On sait que Cavaillès et Gödel ont été des lecteurs de Husserl. Le fait est, pour Cavaillès, avéré dans la biographie que lui consacre sa sœur (Ferrières [1950]), et par la précision de ses références dans l’ouvrage posthume, Sur la logique et la théorie de la science. De même, on a retrouvé dans le Nachlass des exemplaires des principaux ouvrages de Husserl, abondamment annotés par Gödel. Cavaillès et Gödel ont chacun consacré des textes à la phénoménologie de Husserl (Œ. C., p.526-560, partie III, et Gödel [1961/?], t.III, p.374-387). Mais, précisément, je ne m’appuierai guère sur ces textes. Je crois que ce n’est pas dans ces textes, ces lectures explicites que se joue l’essentiel. Cavaillès a rédigé son dernier texte en prison, dans l’urgence. Gödel a rencontré des problématiques husserliennes antérieurement à sa lecture de Husserl. C’est dans l’ensemble et dans le développement de l’œuvre, plutôt que dans les références explicites, de Cavaillès ou de Gödel, que je chercherai la trace de voies ouvertes à partir de la phénoménologie.

Cavaillès et Gödel mettent au centre de leur analyse la réflexivité des mathématiques mais donnent à celle-ci des figures différentes et ouvrent, dans la phénoménologie, des voies divergentes et, parfois, contradictoires. Je commencerai par situer l’une par rapport à l’autre les deux voies de Cavaillès et de Gödel. Je suivrai ensuite ces deux voies successivement.

*

Par réflexivité, j’entends ce simple phénomène qu’une proposition est susceptible de faire l’objet d’une autre proposition. Inversement, une proposition peut se rapporter à des individus ou, déjà, à des propositions. Ainsi, une proposition peut être prise pour objet et, en quelque sorte, réfléchie à l’intérieur des mathématiques.

Ni Gödel, ni Cavaillès n’emploient le mot de réflexivité. Cavaillès parle de thématisation. La thématisation concerne les opérations, les actes, qui sous-tendent le discours et l’édifice des propositions. La thématisation est ce processus par lequel une opération, accomplie sur un champ d’objets, se fait objet pour une autre opération. En géométrie, les transformations, qui sont des opérations sur les points du plan, deviennent un champ d’objets auquel s’applique une opération additive, la composition. Dans la formalisation logique, les opérations d’une théorie, qui sont figées sous forme de propositions, sont des termes pour de nouvelles opérations dans une métathéorie. Or, par cette thématisation, interprétée comme un processus dans le devenir des mathématiques, Cavaillès tente de rendre compte de la conscience. Ainsi, c’est du moins ce que je voudrais montrer, Cavaillès est conduit à une cosmologie.

Gödel fait intervenir la réflexivité des mathématiques sous la forme du cercle des paradoxes. Considérons le paradoxe du menteur. Le crétois dit : « Je mens ». Est-ce qu’il ment ou est-ce qu’il dit la vérité ? S’il ment, il dit la vérité et ne ment pas. S’il dit la vérité, il ment et ne dit pas la vérité. Le paradoxe vient de ce que la proposition « Je mens » affirme quelque chose d’elle-même : elle affirme sa propre non vérité. C’est un cas limite de la réflexivité : une proposition qui est son propre objet. La réflexivité, comme thématisation, dans l’analyse de Cavaillès, donne lieu à une superposition indéfinie : une opération, accomplie sur des objets, se fait objet pour une deuxième opération, laquelle, à son tour, se fait objet pour une troisième opération et ainsi de suite. La réflexivité, dans les paradoxes, s’accomplit sous la forme d’un cercle, c’est-à-dire d’une figure fermée : l’opération se fait objet pour elle-même. Cavaillès et Gödel présentent donc deux figures différentes de la réflexivité. Cavaillès s’appuie sur la thématisation pour fonder ce que j’appellerai une cosmologie et Gödel s’appuie sur le cercle pour réformer la logique de Husserl.

En réalité, le cercle et les paradoxes, qui, avec le menteur, concernent les propositions, se reportent sur les concepts et les ensembles. Par concept, j’entends « une propriété » ou une « relation » attribuable à des objets et délimitant un ensemble ou, plus généralement, une classe d’objets. Ainsi, « être vert » est un concept et caractérise l’ensemble des objets verts. Concepts et ensembles semblent d’abord symétriques : tout ensemble serait l’extension d’un concept et, inversement, tout concept définirait un ensemble.

Le paradoxe du Russell s’applique symétriquement aux concepts et aux ensembles. Considérons l’ensemble E des ensembles qui n’appartiennent pas à eux-mêmes. L’ensemble E appartient-il à lui-même ? S’il appartenait à lui-même, il serait l’un de ses éléments, l’un de ces ensembles qui n’appartiennent pas à eux-mêmes, ce qui serait contradictoire. S’il n’appartenait pas à lui-même, il serait l’un de ces ensembles qui n’appartiennent pas à eux-mêmes, il serait l’un de ses éléments et il appartiendrait à lui-même, ce qui serait contradictoire. Les deux côtés de l’alternative conduisent à une contradiction. Considérons le concept, disons « l’hétérologie » des concepts qui ne s’appliquent pas à eux-mêmes. Le concept de concept, « être un concept », s’applique à lui-même, puisque « être un concept » est un concept. Le concept de concept n’est pas hétérologique. Mais le concept d’hétérologie, « être hétérologique » s’applique-t-il à lui-même ? Est-il hétérologique ? A nouveau, les deux côtés de l’alternative conduiraient à une contradiction. Ce paradoxe est symétrique du précédent, puisqu’un concept qui s’applique à lui-même définit une classe qui appartient à elle-même et que, inversement, la classe définie par l’hétérologie, des concepts qui ne s’appliquent pas à eux-mêmes, est l’ensemble des ensembles qui n’appartiennent pas à eux-mêmes. En outre, comme le paradoxe du menteur fait intervenir le cercle, d’une proposition qui affirme quelque chose d’elle-même, le paradoxe de Russell, sous ses deux formes, suppose que soit reconnu légitime un cercle, le cercle d’un ensemble qui appartient à lui-même, le cercle d’un concept qui s’applique à lui-même.

Gödel s’oppose à l’analyse, standard, des paradoxes, qui est due à Poincaré et à Russell. Ceux-ci soutiennent que les paradoxes reposent sur un cercle, qui est vicieux et qu’il s’agit d’éliminer pour écarter les paradoxes. Il s’agit de donner une représentation de l’édifice mathématique, qui permette la pratique mathématique mais interdise ce cercle, qui conduit aux paradoxes. C’est l’objet de la théorie ramifiée des types et des ordres, avec l’axiome de réductibilité, donnée par Russell et Whitehead, dans les Principia Mathematica.

La position de Gödel, vis à vis de l’analyse de Russell-Poincaré, est en gros la suivante. Du côté des objets de la mathématique, les ensembles, le logicien accorde que le cercle doit être éliminé et qu’un ensemble ne peut pas appartenir à lui-même. En revanche, du côté des concepts et des propositions, le logicien soutient que le cercle est irréductible. Il faut reconnaître qu’un concept, comme le concept de concept, peut s’appliquer à lui-même. Si les paradoxes manifestent un cercle, ils ne proviennent pas de ce cercle, qui, en général, n’est pas vicieux. Gödel introduit donc la figure du cercle au cœur de sa logique.

En réalité, le théorème d’incomplétude, de 1931, repose sur le cercle. On le sait, ce théorème établit l’existence dans l’arithmétique élémentaire de formules, qui ne sont ni démontrables, ni réfutables. Or le raisonnement repose sur la construction d’une formule I, qui signifie « I n’est pas démontrable ». Si la formule I était démontrable, elle serait vraie ce qui signifierait qu’elle n’est pas démontrable. Si elle était réfutable, elle serait fausse, ce qui signifierait qu’elle est démontrable, en même temps que réfutable, soit une contradiction. Le théorème d’incomplétude fait intervenir le cercle, d’une proposition qui affirme quelque chose d’elle-même. A l’intérieur de l’édifice formalisé par Russell et par Whitehead, Gödel a reproduit, sans paradoxe, un cercle analogue à celui des paradoxes. C’est un argument pour soutenir que, du côté des concepts ou des propositions, le cercle est irréductible et que l’on ne peut pas l’éliminer. Ainsi, Gödel distingue une théorie des objets, qui s’identifie à la théorie des ensembles et qui se hiérarchise sans circularité, et une théorie des concepts, qui inclut, comme termes primitifs, concepts, propositions et démonstrations et doit laisser placer au cercle, d’un concept qui s’applique à lui-même, d’une proposition qui affirme quelque chose d’elle-même. Je rapprocherai cette dualité, théorie des concepts et théorie des objets, de la double orientation, dans la logique husserlienne, apophantique formelle et ontologie formelle.

De même, une analyse du théorème d’incomplétude, théorème fondé sur le cercle, permet à Gödel de reprendre, tout en le déplaçant, l’idéal rationaliste de la logique husserlienne.

Au total, la réflexivité des mathématiques conduit Gödel à une critique de la logique de Russell et, c’est du moins ce que je voudrais montrer, à une réforme de la logique de Husserl, réforme qui est, en même temps, une réhabilitation. Gödel retrouve et, en quelque sorte, corrige les grands traits de la logique de Husserl, pour les rendre compatibles avec les théorèmes métamathématiques. Il s’agira de la double orientation de la logique, de l’idéal rationaliste et de l’exigence d’une fondation de la logique dans une réflexion phénoménologique sur les actes donateurs des idéalités. Je dirais que Gödel donne une version techniquement irréfutable de la logique de Husserl

Je suivrai les voies sur lesquelles une analyse de la réflexivité des mathématiques conduit Cavaillès, d’une part, et Gödel, d’autre part. D’un côté, Cavaillès ouvre une cosmologie, centrée sur un processus de thématisation dans l’expérience mathématique. D’autre part, Gödel ouvre une réforme de la logique formelle, centrée sur la circularité des concepts. Dans la suite, j’évoquerai ces deux voies successivement et indépendamment l’une de l’autre. Chacune a, pour moi, un intérêt propre. La voie de la cosmologie se débarrasse de la conscience comme notion primitive pour en rendre compte à partir de la réflexivité de l’expérience. La voie du cercle permet de réhabiliter et de rétablir les grands traits et l’idéal rationaliste de la logique de Husserl. Néanmoins, telles que je les exposerai, ces deux voies ne sont pas compatibles. On ne peut pas suivre à la fois Cavaillès et Gödel. Le problème pourrait être de concilier ces deux voies ou bien, dans leur distinction même, elles pourraient représenter l’esquisse ou le début d’une sorte de typologie des figures de la réflexivité.

Pour terminer cette introduction, je tiens à souligner que la réflexivité n’est pas un phénomène exclusivement mathématique. Elle se retrouve dans le langage naturel, où nous avons puisé l’exemple du menteur. Elle se retrouve mutatis mutandis dans d’autres dimensions de l’expérience. Elle consiste en ce qu’un geste se fait objet pour un autre geste. C’est se voir voyant. C’est, comme Vélasquez, se peindre peignant. Comme l’opération mathématique, la phrase, la vision ou la peinture, c’est-à-dire l’acte de peindre, est susceptible d’une reprise dans une phrase, dans une vision ou dans une peinture. Pour une typologique des figures de la réflexivité, les mathématiques apparaissent comme un domaine privilégié, car les paradoxes ont été l’occasion de reconstructions de l’édifice mathématique, où la place et la figure de la réflexivité sont marquées de façon explicite. Néanmoins, il serait tentant d’interroger les figures de la réflexivité à travers les différentes dimensions de l’expérience. Et, pour illustrer la possibilité d’une telle analyse des figures de la réflexivité, à travers les dimensions de l’expérience, je comparerai les problématiques de Cavaillès à celles de Merleau-Ponty.

I. La cosmologie de Cavaillès.

Cavaillès consacre la troisième partie et à peu près la moitié de son ouvrage posthume à une critique de la phénoménologie de Husserl. J’ai annoncé que, selon moi, ce n’est pas dans ce texte que Cavaillès fixe ses problématiques et leur rapport à la phénoménologie. Il faut plutôt les chercher dans les analyses antérieures, autour de l’expérience mathématique. Néanmoins, je commencerai par expliciter les étapes de la critique de Husserl. Je reviendrai ensuite à l’expérience mathématique, pour tenter d’en cerner les principales problématiques, que je comparerai à celles de Merleau-Ponty.

Le problème, qui ouvre l’examen de la phénoménologie, est celui du rapport, en mathématiques, entre l’acte et l’objet, celui-ci étant conçu comme une « réalité se suffisant à soi » (Œ. C., p.525). En effet, Cavaillès vient de suivre le développement de la logique, sous l’influence de Carnap. Or Carnap, pour fonder sa logique, fait référence à des signes et à des phénomènes physiques pensés comme des réalités indépendantes de la pratique scientifique. Ce faisant, il introduit ce que Cavaillès appelle des « objets ». La logique ne semble pouvoir se développer qu’en renvoyant à de tels objets. Il faut admettre des objectités extérieures à l’expérience mathématique et, puisque la référence à ces objectités reste naïve dans l’empirisme de Carnap, poser explicitement le problème de la référence à des objectités extérieures. Ce problème appelle une « ontologie » et c’est une telle ontologie que Cavaillès cherche dans la phénoménologie de Husserl.

Cavaillès commence par l’exposé des articulations de la logique de Husserl, telle qu’elle est fixée dans Logique formelle et logique transcendantale. La première difficulté vient du projet, dans le §102, d’une logique de la science phénoménologique. Je m’attarderai sur cette difficulté et le dilemme, souvent cité, qu’énonce Cavaillès.

Husserl, en effet, fait état de deux exigences contradictoires. D’une part, de toute logique, il faut rendre compte au moyen d’une analyse transcendantale des actes qui constituent les objectités formelles. C’est par une telle analyse que l’on peut éclairer les présupposés implicites et fonder les règles logiques. Ainsi, la logique des sciences mondaines appelle une première phénoménologie. Mais la phénoménologie est une science et, en tant que telle, se soumet, soutient Husserl, à une logique propre, qui n’est pas celle des sciences mondaines et doit être fondée par des analyses transcendantales, plus profondes. Celles-ci, à leur tour, posséderont leur logique, laquelle devra encore être fondée. Et ainsi de suite. Apparaît donc une régression, qui fournit une suite indéfinie de logiques, dont chacune norme un niveau d’études transcendantales et se fonde dans un niveau plus profond. C’est pourquoi les recherches transcendantales gardent « un caractère provisoire […] » (Husserl [1929], §102., p.360). Pourtant, d’autre part, Husserl maintient l’idée d’une logique absolue, qui norme les sciences positives et, à tous les niveaux, les études transcendantales, ou corrélativement l’idée d’une ontologie formelle qui « se rapporte à tout ce qui existe, quel qu’en soit le sens, qui se rapporte à l’existant qu’est la subjectivité transcendantale et à tout ce qui se constitue en elle » (Husserl [1929], §102., p.360 ; Husserl souligne). Pour Cavaillès, ces deux exigences, d’une fondation transcendantale, indéfinie, et d’une logique absolue, ne sont pas compatibles. Si l’on exige une fondation transcendantale, toute logique dégagée doit être fondée par une analyse transcendantale, qui possédera sa logique propre et il n’y a pas de logique absolue. S’il existe une logique absolue, elle ne peut pas être fondée dans une analyse transcendantale. « Si la logique transcendantale fonde vraiment la logique il n’y a pas de logique absolue […]. S’il y a une logique absolue elle ne peut tirer son autorité que d’elle-même, elle n’est pas transcendantale. » (Œ. C., p.547)

Ce dilemme est posé à l’intérieur de la logique de Husserl. Il ne s’agit pas de choisir entre une logique absolue et une fondation transcendantale. Cavaillès rejette l’idée d’une fondation transcendantale et l’idée d’une logique absolue, qui, prétendant normer la science, ou bien n’offre qu’un cadre vide, ou bien éclate dans le développement de la science. Il n’existe pas de logique, de système de règles, susceptible d’enfermer l’imprévisible devenir des mathématiques. Cavaillès ne fait qu’opposer deux exigences contradictoires, qu’il rejette également, dans la logique de Husserl.

Ce dilemme ouvre une séries de critiques, concernant la physique, l’idéal euclidien et la méthode phénoménologique. En réalité, Cavaillès refuse, en bloc et de façon abrupte, la méthode phénoménologique, dans la mesure où il n’accorde pas la possibilité d’une conscience, la possibilité d’une réflexion immédiate sur l’acte constituant l’idéalité : « [la phénoménologie] se borne à analyser actes et intentions constitutifs de la subjectivité transcendantale, c’est-à-dire à décomposer des enchevêtrements de motivations et d’actions élémentaires subjectives sans que l’entité logique elle-même soit interrogée. Il est évident qu’elle ne peut l’être puisqu’aucune conscience n’est témoin de la production de son contenu par un acte […] » (Œ. C., p.557).

On voit, dans ce passage, comme la critique de Cavaillès est abrupte. « Il est évident », écrit Cavaillès, sans plus justifier sa critique de la conscience et de la réflexion phénoménologique. En réalité, dans la dernière partie de l’ouvrage posthume, consacrée à la phénoménologie de Husserl, Cavaillès semble marquer des points de désaccord avec Husserl, sans exposer les problématiques qui sous-tendent ce désaccord. Ce texte représente un tour d’horizon, une reconnaissance dans la phénoménologie, qui se contente d’isoler des difficultés. Ce texte est une esquisse, un projet de travail, et non une véritable confrontation à la phénoménologie de Husserl.

En outre, je crois que l’ouvrage posthume ne donne qu’une perspective partielle sur la philosophie de Cavaillès. En effet, dans des formules connues, Cavaillès conclut en appelant une dialectique du concept : « Ce n’est pas une philosophie de la conscience mais une philosophie du concept qui peut donner une doctrine de la science. La nécessité génératrice n’est pas celle d’une activité mais celle d’une dialectique » (Œ. C., p.558). Or cette dialectique du concept, qui semble caractériser le plan propre de l’ouvrage posthume, n’est que l’une des faces de la philosophie de Cavaillès. En 1941, soit un an auparavant, Cavaillès écrivait : « Le lien entre [la] superposition intuitive et la dialectique du concept reste le problème fondamental de la philosophie mathématique » (Œ. C., p.471). Au même moment, Cavaillès évoquait dans une lettre à Brunschvicg le projet d’un ouvrage sur l’expérience mathématique (Ferrières [1950], p.158). J’en conclus que la philosophie mathématique, qu’évoque « Transfini et continu », n’est pas la philosophie du concept, sur laquelle s’achève l’ouvrage posthume, car celle-ci est rattachée à la dialectique du concept alors que celle-là est centrée sur le rapport entre la dialectique des concepts et la superposition intuitive. En réalité, « la philosophie mathématique » a pour objet « l’expérience mathématique », laquelle comporte deux plans, « une dialectique des concepts » et « une superposition intuitive », dont le lien fait problème.

On peut définir l’expérience mathématique comme un double système de gestes : gestes dans un espace de signes et de règles d’emploi, que Cavaillès appelle un espace combinatoire ; gestes, opératoires, portant sur les idéalités de la théorie mathématique qui s’exprime dans l’espace combinatoire. J’indique seulement l’origine kantienne de cette définition. La notion de construction dans l’intuition, telle que la pense Kant, comporte une ambiguïté. En effet, dans les constructions géométriques, le divers de la synthèse joue, à la fois, le rôle des traits, des ronds, des signes dans le dessin sur lequel s’appuie le mathématicien et le rôle des droites, des cercles, des idéalités que le mathématicien soumet à des opérations. Cavaillès est conduit à dissocier le plan des signes et le plan des idéalités. Chacun de ces deux plans donne lieu à des « gestes » correspondant à des constructions dans l’intuition. Le geste, au sens le plus large, est une synthèse réglée sur un divers. Le geste combinatoire est la synthèse de signes dans l’espace combinatoire. Le geste opératoire est une synthèse d’idéalités réalisant une opération dans la théorie mathématique. Ainsi l’expérience mathématique comporte deux plans, qui proviennent comme d’une diplopie de l’expérience dans le système kantien. Cependant, il ne faut pas réellement séparer, poser à part les deux plans de l’expérience mathématique. La pensée est « immanente » au geste sur les signes (Œ. C., p.579). Autrement dit, l’opération se fait dans la combinaison des signes. Le geste opératoire et le geste combinatoire ne sont pas deux actes distincts. Le geste, au sens le plus profond, est un seul acte qui se déploie comme geste combinatoire et comme geste opératoire. C’est une opération qui ne peut s’accomplir qu’en s’incarnant dans une combinaison de signes. C’est une combinaison de signes qui, pour qui sait lire, réalise une opération. L’expérience mathématique est, plutôt qu’un double système de gestes, un système de gestes à deux faces.

La définition de l’expérience mathématique pose plusieurs problèmes. Le premier est celui du lien entre les deux plans de l’expérience mathématique : l’unité du geste opératoire, la pensée, et du geste combinatoire, l’écriture. D’autre part, en tant que système de gestes, l’expérience mathématique semble renvoyer à un sujet, point d’origine des gestes, et à un monde extérieur, une totalité transcendante, point d’aboutissement des gestes. Cavaillès fait d’abord de l’expérience mathématique un champ propre ou, pour ainsi dire, séparable, que l’on peut étudier pour soi, sans référence au sujet et au monde. Mais c’est pour ensuite poser le double problème du rapport de l’expérience mathématique à un sujet et à un monde extérieur. Je développerai ces trois problématiques successivement.

1. En premier lieu, la pensée et le geste sur les signes. Le problème de leur rapport, de leur unité, n’est pas résolu par Cavaillès. C’est ce problème qui, dans « Transfini et continu », est posé comme « le problème fondamental de la philosophie mathématique » (Œ. C., p.471). J’ai tenté de montrer que la formulation que Cavaillès que lui donne, dans une discussion entre Kant, Hilbert et Brunschvicg anticipe sur l’analyse que fait Merleau-Ponty du phénomène d’expression. La pensée n’est pas un acte propre qui redoublerait le geste sur les signes. Elle reste immanente à lui. De même, l’espace des signes semble « donner lieu » aux entités mathématiques (Œ. C., p.185), de sorte que l’on ne peut pas poser celles-ci à part des signes, comme éléments d’un champ de pensée superposé à l’espace combinatoire. Néanmoins, on ne peut pas confondre les entités mathématiques avec les signes qui les désignent. Il faut maintenir les entités mathématiques dans le champ des signes sans les réduire à des signes. Il faut donc distinguer deux modes de présence dans l’espace combinatoire : la présence positive des signes, qui forment le divers des synthèses, en ce sens les objets pour les gestes dans ce champ, et la présence latente des entités mathématiques, qui sont situées dans le champ sans être objets pour des gestes. Si l’on veut, un être latent est un excès dans le champ, une sorte de point de fuite qui est ouvert par les éléments positifs et n’est pas lui-même élément positif d’un geste. Cependant, pour produire de la pensée, le geste sur les signes doit bien capter le sens latent autour de ces signes. Il faut donc admettre un principe d’empiétement qui laisse transparaître les êtres latents dans la synthèse des éléments positifs. L’empiétement est une fonction de dépassement grâce à laquelle les sens latents sont captés dans la synthèse des signes. Dans l’expérience mathématique, le geste est la captation de sens dans des configurations de signes au moyen d’un principe d’empiétement. J’ai emprunté à l’ontologie de Merleau-Ponty les notions de latence et d’empiétement, tout en essayant de les redéfinir, pour éclairer les textes de Cavaillès. Accessoirement, cela permet d’introduire une expression mathématique, une expression propre aux mathématiques, ce à quoi Merleau-Ponty ne parvient pas.

2. En deuxième lieu, la référence des sens mathématiques à un monde et à des objectités extérieures. Je rappelle qu’il s’agit du problème ontologique, qui ouvre l’examen de la phénoménologie, dans l’ouvrage posthume. Je me contenterai d’exposer brièvement la problématique qu’une lecture attentive et une confrontation entre des textes différents permettraient de dégager. Distinguons, comme le fait Husserl, le sens et l’objectité visée dans ce sens. L’objectité, la pomme même, est d’abord présentée dans un sens sensible, la pomme telle qu’elle est perçue, sous tel angle et avec telles couleurs. Pour Cavaillès, les mathématiques ont pour fonction de développer ou de réviser, c’est-à-dire d’approfondir et de transformer, les sens perceptifs ou un moment dans les sens perceptifs, comme les formes perçues, pour constituer de nouveaux sens, comme les formes exactes, visant la même objectité que les sens perceptifs. L’espace même, qui serait une forme reliant les objectités visées, est d’abord présenté comme espace sensible, puis comme espace géométrique, comme espace de dimension trois dans une géométrie abstraite, comme espace euclidien dans une géométrie riemannienne. La pluralité même est d’abord présentée comme multiplicité perçue, puis comme nombre entier, comme nombre dans une algèbre abstraite. Ainsi, l’expérience mathématique et l’expérience sensible sont deux champs de sens pour la visée d’une même objectité. L’objectité est un corrélat commun à des sens perceptifs et à des sens mathématiques. Les sens perceptifs et les sens mathématiques sont comme différentes faces de l’objectité tirées les unes des autres dans un développement nécessaire.

On pourrait, à partir des analyses de Merleau-Ponty, généraliser le mode de référence qu’illustrent les mathématiques. La peinture, la littérature réalisent, dans les mots de Merleau-Ponty, une « déformation cohérente » de la perception (Merleau-Ponty [1960], p.71 et sv.). En fait, les éléments du sens perceptif sont repris dans le sens pictural, dans le sens langagier selon d’autres configurations, selon de nouveaux arrangements. C’est comme, dans un portrait de Picasso, le nez, la bouche, les yeux sont déplacés pour former le visage tel qu’il est peint. De cette façon, le sens perceptif est déformé dans le sens pictural ou dans le sens langagier. Pourtant, le sens pictural, le sens langagier présentent la même objectité que le sens perceptif. S’ils ne « ressemblent » pas au sens perceptif, ils le « recoupent » et prennent une même « référence » (Merleau-Ponty [1996], p.53 et p.217-218 ; je souligne). C’est que, dans le portrait de Picasso, on reconnaît un homme et, éventuellement, tel homme. Finalement, les expressions perceptive, langagière, picturale et mathématique présentent la même objectité dans des sens, sous des modes ou, pour ainsi dire, des angles différents. Le sens perceptif, pictural, langagier ou mathématique est l’objectité dans le comment de son mode de donnée actuel, dans une détermination partielle et en devenir, perceptive, picturale, langagière ou mathématique. L’expression produit du sens. Le sens constitue une déformation, une révision du sens perceptif pour la visée d’une seule objectité. L’objectité est le noyau commun des sens perceptifs, langagiers, picturaux et mathématiques. C’est la pomme perçue, décrite, peinte, figure dans un espace géométrique et unité dans un nombre.

3. En troisième lieu, la subjectivité et son rapport à l’expérience mathématique. C’est, dans cette problématique, qu’interviendra la réflexivité des mathématiques. Il faut distinguer deux étapes. Dans les thèses de 1938, Cavaillès admet que la pensée, immanente au geste sur les signes, est transparente à soi ou, selon une formule qu’il utilisera ensuite, pourvue d’une propriété d’auto-illumination intérieure. La pensée, qui se fait dans le geste combinatoire, se comprend et se saisit elle-même au fur et à mesure de son déroulement. Mais cette immédiateté est remise en question dans les textes posthumes, « Transfini et continu » et Sur la logique et la théorie de la science. En réalité, la pensée est tournée vers ses termes mais reste aveugle à elle-même. Lorsque le mathématicien accomplit une opération sur des objets, comme l’addition sur les nombres, il connaît ces objets sans connaître l’opération par laquelle il connaît ces objets. Celle-ci ne se laisse connaître qu’en se faisant objet pour une nouvelle opération. La pensée n’est donc pas transparente à soi. La réflexion n’est pas une saisie immédiate de la pensée par elle-même. La réflexion se fait par thématisation, la thématisation étant précisément ce processus par lequel les opérations accomplies sur un champ d’individus deviennent à leur tour un champ d’individus pour de nouvelles opérations. Cavaillès compare la thématisation à l’idée de l’idée dans le système de Spinoza. Comme l’idée, l’opération est connaissance de son objet et n’est connue, n’est réfléchie, qu’en tant qu’objet d’une autre idée, c’est-à-dire d’une autre opération.

En outre, la thématisation est un processus interne au devenir mathématique. Or Cavaillès conçoit ce devenir comme un mouvement autonome. C’est donc le mouvement mathématique qui, dans un redoublement interne, réfléchit les opérations qui le produisent. La subjectivité, ce que l’ontologie naïve du sens commun pose comme une sphère indépendante d’actes conscients, n’est que la multiplicité ouverte des opérations thématisées, des idées qui, dans le mouvement mathématique, se font objets pour d’autres idées. Le rapport naïf de subordination entre science et subjectivité est inversé. Ce n’est pas une subjectivité première qui fait la science mais une science autonome qui forme sa subjectivité. La subjectivité se constitue dans le devenir sui generis de la mathématique.

Enfin, on pourrait lire dans Le visible et l’invisible une problématique analogue. La réflexivité serait pensée comme « réversibilité » de l’expression. Le geste d’expression prend place dans l’Etre sur lequel il ouvre : « tout rapport à l’Etre est simultanément prendre et être pris, la prise est prise, elle est inscrite et inscrite au même être qu’elle prend. » (Merleau-Ponty [1964], p.319 ; Merleau-Ponty souligne). Autrement dit, le geste d’expression s’exprime et se fait l’objet d’un second geste d’expression. Ainsi, lorsque la main gauche vient toucher la main droite qui touchait le papier, le toucher est touché. Dans le regard d’autrui, notre vision se laisse voir. Or la réversibilité de l’expression doit rendre compte de la réflexion : « la réflexion n’est pas identification à soi (pensée de voir ou de sentir) » ; « toute réflexion est du modèle de celle de la main touchante par la main touchée » (Merleau-Ponty [1964], p.247)

L’épistémologie de Cavaillès et l’ontologie de Merleau-Ponty semblent mettre en œuvre une même problématique de la réflexivité : la pensée est expression ; l’expression se ressaisit ; le geste d’expression se fait l’objet de nouveaux gestes d’expression et ce redoublement de l’expression fait la réflexion. La réflexivité est un redoublement interne à l’expression, qui rend compte de la conscience. Elle amènerait à penser la constitution de la subjectivité à partir d’un mouvement originaire de l’expérience, de ce « dynamisme autonome » des contenus d’expérience, qu’évoque Cavaillès, ou de cette « Visibilité en Soi », que décrit Merleau-Ponty (Œ. C., p.486 ; Merleau-Ponty [1964], p.183).

J’ai commencé par définir l’expérience mathématique comme un système de gestes à deux faces, opératoire et combinatoire. J’ai ensuite interrogé l’expérience mathématique dans trois problématiques. Dans la problématique de l’expression, le sens est latent dans le champ des signes et l’opération se fait par empiétement dans le geste combinatoire. Dans la problématique de la référence extérieure, les mathématiques produisent des sens qui représentent une révision, un approfondissement et une transformation, des sens perceptifs et visent la même objectité que les sens perceptifs quoique de façon plus transparente ou, pour ainsi dire, sous un autre angle. Dans la problématique de la réflexivité, les opérations ne sont pas les actes d’une conscience première mais des idées dans un mouvement autonome se faisant objets pour d’autres idées. La subjectivité se constitue dans ce redoublement, interne au devenir sui generis de l’expérience.

Cette dernière problématique, celle de la réflexivité, conduit à ce que l’on peut appeler une cosmologie, dans la mesure où l’expérience apparaît comme un milieu neutre par rapport à l’objectivité et à la subjectivité, qui se constitue dans le redoublement, la thématisation, de l’expérience.

II. Gödel et la logique de Husserl.

Je voudrais montrer, dans cette deuxième partie, que Gödel retrouve, réforme et, dans une certaine mesure, réhabilite la logique de Husserl, telle qu’elle est fixée dans Logique formelle et logique transcendantale. Avant tout, je m’appuie sur les travaux de Dagfinn Føllesdal qui ont mis en évidence, dans les textes de Gödel, une conception husserlienne de l’objet mathématique. C’est en admettant cette proximité entre Gödel et Husserl, sur la question du statut des objets et de l’intuition mathématiques, que je tenterai de comparer leur logique. Je ferai deux points. D’une part, à partir d’une réflexion sur les paradoxes, Gödel réintroduit une double orientation dans la logique formelle. Ici, je m’appuierai sur l’article de 1944, consacré à « La logique mathématique de Russell », et sur les conversations avec H. Wang. D’autre part, dans une analyse de son théorème d’incomplétude, de 1931, et de son résultat sur l’hypothèse du continu, de 1938, Gödel reprend l’idéal rationaliste de Husserl et de Hilbert, en l’appliquant non aux théories isolées mais à l’édifice entier des mathématiques. La figure du cercle, la réflexivité des mathématiques, se trouve au centre de la réflexion sur les paradoxes et au fondement du théorème d’incomplétude. C’est la figure du cercle qui détermine la réforme gödelienne de la logique de Husserl.

II. 1. La double orientation de la logique

On sait que Husserl distingue une ontologie formelle, ou théorie du « quelque chose », et une apophantique formelle, ou théorie du jugement, comportant trois disciplines, une grammaire pure, une théorie de la conséquence et une théorie des formes de théories. Je voudrais montrer que Gödel, à partir de sa réflexion sur les paradoxes, met en évidence, dans la logique, une double orientation comparable à celle que décrit Husserl.

A la différence de Russell, qui rapporte tous les paradoxes à un même cercle vicieux et veut ainsi dégager une essence du paradoxe, Gödel distingue différents genres de paradoxes et différentes formes du cercle vicieux.

Les paradoxes sont répartis en trois genres : sémantique, intensionnel, extensionnel (Gödel cité dans Wang [1996], p.271-272). Les paradoxes sémantiques, comme le paradoxe du menteur ou celui de Richard, ne concernent que le langage et ont été résolus par l’analyse et la délimitation du langage des théories mathématiques. Ainsi, le paradoxe du menteur est écarté dès lors que l’on reconnaît que la vérité, qui est attribuée aux formules d’un langage, ne peut pas s’exprimer dans ce langage mais dans un métalangage. Cette distinction entre langage et métalangage rend impossible la formulation, dans le langage, d’une proposition exprimant sa non vérité. En réalité, les paradoxes sémantiques ne sont qu’apparents et leur résolution n’a exigé qu’une étude plus précise du langage des théories mathématiques.

Les paradoxes intensionnels et extensionnels posent de réels problèmes. Ils se distinguent par leur domaine. Les paradoxes extensionnels concernent les objets des mathématiques, c’est-à-dire les ensembles, et les paradoxes intensionnels concernent les concepts des mathématiques. Techniquement, dans l’article sur la logique de Russell, Gödel entend par concept « une fonction propositionnelle en tant qu’elle est une entité propre, c’est-à-dire qu’elle est quelque chose de séparable de ses arguments […] et quelque chose de distinct de la combinaison des symboles qui l’expriment. » (Gödel [1944], t.II, p.124). Autrement dit, un concept est une véritable entité, qui ne se réduit pas à une combinaison de signes, selon une sorte de nominalisme, et se distingue de la classe qu’il délimite, selon une vue exclusivement extensionnelle des mathématiques.

Le paradoxe de Russell, que j’ai évoqué au début, se décline sur le mode intensionnel — avec le concept des concepts qui ne s’appliquent pas à eux-mêmes — et sur le mode extensionnel — avec l’ensemble des ensembles qui n’appartiennent pas à eux-mêmes. Pourtant, la résolution des paradoxes intensionnels et extensionnels relèvera de deux théories différentes, une théorie des concepts et une théorie des objets. En outre, elle exige une analyse plus précise du cercle qui sous-tend les paradoxes. Russell, après Poincaré, mettait en évidence un cercle dans les paradoxes et énonçait le principe du cercle. Partant d’ambiguïtés dans les énoncés de Poincaré et de Russell, Gödel distingue trois principes, selon que l’on utilise les mots « définir », « faire intervenir » ou « présupposer » : aucune totalité ne peut contenir des éléments (i) qui ne sont définis qu’à partir de cette totalité (ii) qui font intervenir cette totalité (iii) qui présupposent cette totalité (Gödel [1944], t.II, p.127). Or il s’agit d’évaluer ces trois thèses du côté des objets et du côté des concepts.

Du côté des objets, c’est-à-dire des ensembles, le problème vient des définitions imprédicatives. Une définition imprédicative caractérise un objet en référence à une totalité dans laquelle il s’inscrit. C’est, par exemple, la définition de la borne supérieure d’un ensemble. Un autre exemple, extra-mathématique, est : le plus grand arbre de la forêt. Cet arbre, le vieux chêne, est désigné en référence à un ensemble, la forêt, auquel il appartient. Or une définition imprédicative est inoffensive si, comme dans cet exemple, la collection des objets, la forêt, existe indépendamment de nos définitions. En revanche, si l’on considère que, en mathématiques, les objets n’existent pas en soi mais sont engendrés par nos constructions, définir un objet de façon imprédicative revient à construire un objet en présupposant une collection à laquelle il appartient et, finalement, en présupposant l’objet construit, ce qui est une sorte de pétition de principe. C’est pourquoi Poincaré refusait les définitions imprédicatives. Gödel prend le contre-pied de l’analyse de Poincaré. Les objets mathématiques existent en soi, indépendamment de nos constructions. Les définitions imprédicatives sont donc inoffensives. Il faut refuser le premier énoncé du principe du cercle vicieux : une totalité peut contenir des éléments définis en référence à cette totalité.

En revanche, Gödel accepte, du côté des objets, la deuxième ou la troisième thèse (Gödel [1944], t.II, p.131). On peut répartir les objets mathématiques en une hiérarchie, qui s’accorde au principe du cercle vicieux, sous sa deuxième ou troisième forme. C’est le but de la théorie ramifiée de Russell ou, plus simplement, de la hiérarchie cumulative, de Zermelo. Aucun ensemble n’appartient à lui-même et, en ce sens, aucun ensemble ne se présuppose lui-même. L’univers des ensembles, tel que le décrit Zermelo, ne respecte pas le principe du cercle vicieux dans sa première forme mais en illustre la deuxième forme. En réalité, les ensembles, c’est-à-dire les objets mathématiques, ne sont pas circulaires et n’ont pas de référence à eux-mêmes. Les ensembles sont « quasi-spatiaux » ou « quasi-physiques » et se laissent concevoir à l’instar des objets sensibles, qui se décomposent, sans circularité, en atomes irréductibles (Gödel, cité dans Wang [1996], p.254 et p.270). Bref, n’intervient en théorie des ensembles qu’une circularité seconde, extérieure à l’objet même, qui ne concerne que nos définitions.

La situation est différente du côté des concepts. Le principe du cercle vicieux ne vaut sous aucune de ses trois formes. Les concepts comportent en eux-mêmes une circularité essentielle. Les concepts s’appliquent à eux-mêmes (Gödel [1944], t.II, p.130 ; Gödel cité dans Wang [1996], p.278). Par exemple, le concept de concept, « être un concept » est un concept et, par conséquent, s’applique à lui-même. Si l’on identifie un concept à la classe des objets auxquels il s’applique, la classe des concepts appartient à elle-même. Par conséquent, il y a une dissymétrie entre la théorie des concepts et la théorie des objets, c’est-à-dire des ensembles. Un concept, « être vert » correspond à une classe d’objets, les objets verts. Mais les classes, en ce sens, ne représentent qu’une façon de parler du concept. Elles ne sont pas de véritables objets et n’ont pas d’existence propre, à la différence des concepts et des ensembles. « Une classe n’est rien en elle-même et, en toute rigueur, on ne devrait pas parler de classes » (Gödel cité dans Wang [1996], p.274-275). Les objets des mathématiques sont des ensembles, des objets quasi-spatiaux et sans circularité. Par conséquent, si chaque ensemble est l’extension d’un concept, il existe des concepts, comme le concept de concept, sans correspondant dans le domaine des objets. Concepts et ensembles ne sont pas corrélatifs. Le domaine des concepts est plus riche que celui des objets. La théorie des concepts n’est pas équivalente à la théorie des ensembles.

Il s’agirait d’élaborer une théorie des concepts. La difficulté, que reconnaît Gödel, est que l’on ne sait pas résoudre les paradoxes intensionnels. Confronté aux paradoxes extensionnels, on a réparti les objets en une hiérarchie, dans laquelle un ensemble ne peut appartenir à lui-même, de façon à respecter la seconde forme du principe du cercle vicieux. Mais, si nous admettons une circularité dans le concept, si nous admettons qu’un concept s’applique à lui-même ou que sa classe appartient à elle-même, une hiérarchie correspondant à la hiérarchie des ensembles est impossible du côté des concepts. En réalité, Gödel cherche une solution dans ce qu’il faut appeler une grammaire logique. Le logicien rappelle la définition, par Russell, des types. Le type est défini comme le domaine de signification d’une fonction propositionnelle. Or c’est là une voie, indépendante du principe du cercle vicieux, pour la résolution des paradoxes intensionnels : « les paradoxes proviendraient de l’hypothèse qu’un concept définit une proposition pourvue de sens, appliqué à n’importe quel objet » (Gödel [1944], t.II, p.138). L’idée que Gödel tire de la théorie des types est qu’un concept a un domaine de signification et que les paradoxes viennent de ce qu’un concept est appliqué hors de son domaine de signification. Il s’agirait d’analyser le domaine de signification des concepts et d’établir les règles déterminant à quel « type » de terme appliquer tel « type » de concept pour former une proposition pourvue de sens. La grammaire des types russelliens est inadéquate, puisque les concepts, c’est-à-dire les fonctions propositionnelles, sont répartis en une hiérarchie, qui n’autorise pas l’application d’un concept à lui-même. Il resterait à constituer cette grammaire logique, qui donne une solution aux paradoxes intentionnels, tout en laissant place au cercle, et fonde une véritable théorie des concepts.

Au total, une réflexion sur les paradoxes amène Gödel à distinguer une double orientation de la logique : théorie des objets, c’est-à-dire des ensembles, et théorie des concepts. « La logique est la théorie du formel. Elle consiste en la théorie des ensembles et la théorie des concepts » (Gödel cité dans Wang [1996], p.268). La théorie des concepts est fondée sur une grammaire, donnant les lois qui règlent l’application de tel type de concept à tel type des termes, dans une proposition pourvue de sens. Elle inclut, outre l’idée de concept, celles de proposition et de preuve. A la grammaire, se superpose « une théorie générale de l’inférence », qui fixe le calcul des propositions, des prédicats pour, finalement, « inclure toutes les règles dont la conséquence suit nécessairement des prémisses » (Gödel cité dans Wang [1996], p. 266). Enfin, nous verrons, dans la suite, que Gödel espérait pouvoir représenter les mathématiques dans un édifice complet, qui aurait permis de délimiter la totalité des preuves mathématiques et de dégager une notion absolue, non relative à une calcul déterminé, de preuve mathématique. La logique aurait trois disciplines : une grammaire, une théorie de l’inférence et une théorie des théories, qui délimite l’édifice dans lequel se meut la mathématique. La logique de Gödel, telle qu’elle s’esquisse dans la confrontation à Russell et, avec moins de sûreté, dans les conversations avec H. Wang, semble se diviser, selon une différence d’orientation, en deux théories, l’une qui s’identifie aux mathématiques et l’autre proprement logique, qui comprend les trois disciplines, d’une grammaire logique, d’une théorie de l’inférence et d’une théorie des théories. Si l’on ne sait pas quel statut donner aux termes, concept, proposition et preuve, de la théorie des concepts, la logique de Gödel, avec sa double orientation et sa tripartition en disciplines superposées, apparaît co-extensive à celle de Husserl.

2. L’idéal rationaliste.

Dans la théorie des formes de théories, Husserl distingue un genre particulier de théories. L’idéal rationaliste ou, dit Husserl, « l’idéal euclidien », qui guide l’élaboration d’une théorie, est d’expliquer un type de phénomènes ou de décrire un domaine d’objets à partir d’un nombre restreint de lois fondamentales. Mais, pour que cette réduction soit complète, il ne doit rester aucune vérité qui ne soit conséquence des axiomes. Il faudrait pouvoir décider à partir des axiomes, ou démontrer ou réfuter toute proposition formulée dans la théorie. De telles théories sont « définies » ou « nomologiques » : « […] toute proposition […] devant être construite conformément à la grammaire pure logique à l’aide des concepts qui interviennent dans ce système axiomatique, est ou vraie (c’est-à-dire est une conséquence analytique) ou fausse (c’est-à-dire est une contradiction analytique) : tertium non datur » (Husserl [1929], §31, p131). Les théories nomologiques sont, en termes modernes, syntaxiquement complètes. Husserl ne dit pas que les théories que les mathématiciens étudient, la géométrie, l’analyse ou la théorie des ensembles, soient des nomologies. Néanmoins, les théories « par excellence », dans la théorie des formes de théories, sont des nomologies et les mathématiciens, dans l’élaboration de leurs théories, sont guidés par l’idéal d’un tertium non datur.

Le théorème d’incomplétude conduit à une révision de la logique de Husserl. En effet, il interdit d’attribuer aux théories mathématiques la propriété de « définition » ou un caractère « nomologique » Les théories mathématiques, l’arithmétique, l’analyse ou la théorie des ensembles, comportent des propositions indécidables à partir de leurs axiomes. Néanmoins, ces propositions ne sont indécidables, ni démontrables, ni réfutables, que relativement au système dans lequel elles sont construites. Dès 1931, Gödel souligne que son résultat ne prouve pas l’existence de propositions indécidables en soi, mais seulement dans une théorie donnée (Gödel [1931?], t.III, p.35 ; également, Gödel [1934], t.I, p.367). En réalité, le théorème donne le moyen de compléter toute théorie que l’on a prouvée incomplète. Il suffit d’ajouter comme axiome l’une des propositions dont on a établi l’indécidabilité. On obtient un système plus puissant, qui comporte des propositions indécidables mais que l’on peut compléter selon le même processus. Ce processus d’extension détermine une série indéfinie de systèmes, que l’on peut supposer constituer un édifice complet. Toute proposition formulée dans l’un des systèmes est décidable, ou démontrable ou réfutable dans l’édifice, c’est-à-dire dans le système où elle est formulée ou dans un système plus puissant. La seule condition, pour que l’édifice puisse être supposé complet, est que la règle qui détermine l’extension indéfinie des systèmes, soit non récursive ou non mécanique et qu’aucune machine ne puisse l’appliquer. Cela signifie que la règle comporte un aspect sémantique et s’appuie sur le sens des axiomes plutôt que sur la combinatoire des symboles.

Le plus simple est de considérer que, à chaque étape, le mathématicien ajoute comme axiome l’une des formules exprimant la consistance du système précédent. D’après le second théorème, de 1931, une formule exprimant la consistance, c’est-à-dire la non contradiction, est indécidable dans le système et, ajoutée comme axiome, détermine un système plus puissant, lequel à son tour pourra être complété. Partant de l’arithmétique, le mathématicien conduit des démonstrations, reconnaît la vérité de celles-ci et pose comme axiome leur non contradiction, ce qui le place dans un nouveau système où s’ouvrent de nouvelles démonstrations. Ce processus, cette règle, qui consiste à ajouter une formule exprimant la consistance des déductions précédentes, engendre une extension indéfinie de l’arithmétique, que l’on pouvait supposer complète [S. Feferman a établi dans les années soixante-dix que de telles extensions de l’arithmétique ne sont pas complètes. Mais il reste possible qu’une autre règle non récursive détermine une extension complète]. Ici, c’est  » […] la considération du formalisme [qui] donne naissance à de nouveaux axiomes exactement aussi évidents et fondés que ceux avec lesquels on a commencé » (Gödel [1946], t.II, p.151). Il reste qu’aucune machine n’est capable de reconnaître la vérité et de poser la consistance d’indéfinis systèmes d’axiomes. Le mathématicien, dans ce processus, dépasse toute machine. Il faudrait prêter à l’esprit mathématique deux composantes : l’une qui effectue des déductions mécaniques dans des systèmes formels, l’autre, non mécanique, qui pose la consistance des déductions effectuées et, de cette façon, élargit le système des déductions possibles. L’esprit mathématique serait une machine de Turing couplée à un tel dispositif réflexif [Nous trouvons dans les conversations avec Wang des indications allant dans ce sens : « Par esprit, on n’entend pas une machine […] mais une machine qui se reconnaît correcte (a machine that recognizes itself as right) » (Gödel cité dans Wang [1996], p.189). Egalement, Gödel [1972a], t.II, p.306]. Gödel défend, à la fois, l’irréductibilité de l’esprit à la machine ou, en ce sens, l’inexhaustibilité des mathématiques et l’idéal rationaliste, selon lequel il n’existe pas de propositions indécidables pour l’esprit mathématique.

Si l’on ne peut pas prêter un caractère nomologique aux théories isolées, on peut concevoir le développement des mathématiques comme une extension indéfinie, guidée par l’idéal d’un tertium non datur. Gödel n’évoque pas la formule de Husserl. Mais celle-ci faisait écho à une autre formule de Hilbert, qui, au congrès des mathématiciens de 1900, postulait la résolubilité en principe de tout problème mathématique. En mathématiques, il n’y a pas, disait Hilbert, d’ignorabimus (Hilbert [1900], p.11-12). Gödel reprend la thèse de Hilbert et maintient que toute question mathématique, en oui ou non, est susceptible d’une réponse définitive. En fait, « à toute question claire posée par la raison, la raison peut trouver une réponse claire » (Gödel [1961], t.III, p.381, p.385). Or, à condition de reconnaître la supériorité de la raison sur la machine et, par exemple, en concevant l’esprit comme une sorte de machine réflexive, on peut enfermer les mathématiques dans un édifice indéfini mais complet, dans lequel toute proposition est décidable : comme le voulait Husserl, tertium non datur. Il devient possible de délimiter, en fixant la règle, qui dirige l’extension des théories mathématiques, l’espace dans lequel se développent les mathématiques et la totalité des preuves qu’elles sont susceptibles d’utiliser. Ainsi, Gödel peut chercher à définir une notion de preuve mathématique, qui soit, comme le concept de calculabilité défini par Turing, absolue, non relative à un système donné et, par conséquent, rassemble la totalité de preuves disponibles dans l’édifice mathématiques (Gödel [1946], t.II, p.150).

Le second résultat qui motive la réflexion de Gödel sur la décidabilité des problèmes mathématiques et, du reste, conduira à préciser le modèle esquissé pour l’esprit mathématique concerne l’hypothèse du continu. En 1878, Cantor pose sans démonstration qu’un ensemble de points, sur la droite, ou bien possède la puissance du dénombrable et peut être coordonné à l’ensemble des nombres entiers, ou bien possède la puissance du continu et ne peut être coordonné qu’à la droite elle-même : il n’existe pas de puissance intermédiaire entre le dénombrable, l’ensemble des entiers, et le continu. C’est ce que l’on appellera l’hypothèse du continu. Cantor, puis Hilbert tentent, sans succès, de la démontrer. En 1938, Gödel établit que l’hypothèse du continu, ainsi que l’axiome du choix, n’est pas contradictoire avec les axiomes usuels de la théorie des ensembles. Autrement dit, l’hypothèse du continu ne peut pas être réfutée dans la théorie des ensembles. Mais le logicien conjecture que l’hypothèse du continu n’est pas non plus démontrable dans la théorie des ensembles. L’hypothèse du continu serait indécidable, ni démontrable, ni réfutable à partir des axiomes usuels. La conjecture de Gödel est vérifiée en 1963 par P. J. Cohen.

Au regard de l’idéal rationaliste qui semblait animer la mathématique, le résultat obtenu en 1938 fait problème. Si l’hypothèse du continu est indécidable à partir des axiomes usuels, il s’agirait d’étendre la théorie, par de nouveaux axiomes, pour donner une solution au problème du continu. Gödel conjecture l’indécidabilité de l’hypothèse du continu dans la théorie usuelle mais la possibilité d’une réfutation par une extension de la théorie, au moyen d’axiomes plausibles. L’existence d’une réalité mathématique, indépendante de nos constructions, implique que l’hypothèse du continu, qui fixe une relation entre de tels objets, possède une valeur de vérité. L’indécidabilité dans la théorie usuelle n’indique que l’insuffisance de celle-ci :

« […] Les concepts de la théorie des ensembles et ses théorèmes décrivent une réalité bien déterminée, dans laquelle la conjecture de Cantor est vraie ou fausse. Ainsi son indécidabilité à partir des axiomes acceptés aujourd’hui peut seulement signifier que ces axiomes ne contiennent pas une description complète de cette réalité » (Gödel [1964], t.II, p.260 et p.258 ; Gödel [1947], t.II, p.181).

Il s’agit d’étendre la théorie, au moyen de nouveaux axiomes, pour obtenir une description adéquate de la réalité mathématique et une réponse au problème du continu. L’hypothèse du continu, que Gödel, avec précaution, juge fausse, n’a pas l’évidence suffisante pour être posée comme axiome. Gödel, qui évoque des axiomes sur les « grands » ensembles, distingue deux méthodes ou deux critères pour l’addition de nouveaux axiomes et l’extension de la théorie.

La première méthode est « inductive » et le critère qui préside alors à l’introduction d’un axiome est sa « fécondité » (Gödel [1947], t.II, p.182 ; [1964], t.II, p.261, 269 ; [1951], t.III, p.313). Un axiome aura dans le champ où il est introduit et dans des champs adjacents des conséquences vérifiables au moyen d’autres axiomes, reconnus évidents. Un axiome jettera une nouvelle lumière sur des démonstrations, qu’il permet de simplifier, et un champ, qu’il permet de réorganiser et dans lequel il donne solution à des problèmes. Cavaillès écrivait déjà : « la fécondité est l’instance devant laquelle tout refus au nom de l’évidence s’avère préjugé » (Œ. C., p.54, p.361-362). Mais, pour Gödel, cette fécondité, qui détermine la position de nouveaux axiomes, rapproche les mathématiques de la physique. Les deux sciences décrivent une réalité, indépendante de nos actes, et ces axiomes, posés au nom de leur fécondité, sont analogues aux théories physiques, acceptées par leurs conséquences vérifiables. Comme les théories physiques, les axiomes, ainsi introduits, restent soumis à une révision possible, au cas où se produirait une contradiction, analogue à une expérience négative, ou au cas où l’on découvrirait une formulation, plus générale et plus féconde. Ces axiomes ne sont pas « intrinsèquement nécessaires » et restent « seulement probables » (Gödel [1947], t.II, p.182 ; [1964], t.II, p.261).

La seconde méthode est une réflexion phénoménologique sur l’intuition des objets mathématiques. L’introduction d’un axiome dépend alors de son évidence. Les objets mathématiques, qui existent en soi, sont saisis dans une intuition ou une perception propre et celle-ci conduit à des axiomes donnés comme évidents. En fait, l’évidence de ces axiomes devient un argument en faveur d’une intuition des objets mathématiques : « nous avons quelque chose comme une perception des objets de la théorie des ensembles, que l’on reconnaît à ce que les axiomes s’imposent à nous comme étant vrais » (Gödel [1964], t.II, p.268). Il ne suffit donc pas de tester de façon inductive la fécondité d’un axiome. Il s’agit en dernier ressort d’acquérir « une compréhension plus profonde des concepts » (Gödel [1947], t.II, p.182 ; [1964], t.II, p.261). Or celle-ci, qui fournit des axiomes, non plus probables, mais vrais de façon évidente, dépend d’une réflexion sur l’acte d’intuition. Gödel cherche dans la phénoménologie « une méthode systématique pour la clarification du sens » : « Ici la clarification du sens consiste à se concentrer plus précisément sur les concepts en question en dirigeant notre attention d’une certaine façon, à savoir sur nos propres actes dans l’usage de ces concepts, sur nos capacités (our powers) à conduire de tels actes, etc. » (Gödel [1961/?], t.III, p.383).

Ajoutons que les méthodes, inductive et phénoménologique, qui dirigent l’extension d’une théorie, en garantissent également le fondement : « Pour ces axiomes, il n’existe pas d’autre fondation rationnelle si ce n’est qu’ils […] sont directement perçus comme étant vrais […] ou qu’ils sont admis (comme des hypothèses physiques) à partir d’arguments inductifs […] » (Gödel [1953/9-III], t.III, p.346-347. Je souligne).

L’hypothèse du continu, qui semble indécidable à partir des axiomes usuels, exige une extension de la théorie. Gödel maintient l’idéal rationaliste, que toute proposition est susceptible ou d’une démonstration ou d’une réfutation. Cet idéal rationaliste n’est possible que dans un édifice indéfini et pour un esprit qui surpasse toute machine. Dans un premier temps, l’esprit mathématique apparaissait comme une machine couplée à un dispositif réflexif, qui ne faisait que reconnaître la vérité des déductions effectuées. Il faut maintenant admettre dans l’esprit mathématique un principe réflexif plus radical, qui ressaisit l’intuition des objets et l’analyse pour opérer une clarification du sens, qui rend évidents de nouveaux axiomes. En dernier ressort, c’est à la réflexion phénoménologique, qui, en fixant notre intuition et le sens des objets mathématiques, fournit des axiomes vrais, et non plus probables, qu’appartient la double tâche d’une extension des théories, dans un idéal rationaliste, et de leur justification, de leur fondation. Gödel maintient l’idéal rationaliste et l’idée d’une fondation de la logique formelle dans la réflexion phénoménologique.

Copyright Pierre Cassou-Noguès

Références bibliographiques

Cassou-Noguès P. [2001] : Hilbert, Paris, Les Belles Lettres, 2001.

— [2002] : De l’expérience mathématique. Essai sur la philosophie des sciences de Jean Cavaillès, Paris, Vrin, à paraître en janvier 2002.

— [A paraître] : Gödel, Paris, Les Belles Lettres, à paraître.

Cavaillès J. [1994] : Œuvres complètes de philosophie des sciences, B. Huisman éd., Paris, Hermann, 1994 (noté Œ. C).

Ferrières G. [1950] — Jean Cavaillès, un philosophe dans la guerre, 2e édition, Paris, Seuil, 1982.

Føllesdal D. [1999] : « Gödel and Husserl », dans Naturalizing Phenomenology, J. Petitot, F. J. Varela, B. Pachoud et J.-M. Roy éds, Stanford, Stanford Univ. Press, 1999.

Hilbert D. [1900] : « Sur les problèmes futurs des mathématiques », tr. fr. L. Laugel, Sceaux, Ed. Gabay, 1990.

Husserl E. [1929] : Logique formelle et logique transcendantale, tr. fr. S. Bachelard, Paris, P.U.F., 1957.

Gödel K. [1986-1994] : Collected Works, trois tomes, S. Feferman et autres éds., Oxford, Clarendon Press, 1986-1994 (Tous les textes de Gödel cités le sont dans cette édition).

Merleau-Ponty M. [1960] : Signes , Paris, Gallimard, 1960.

— [1964] : Le visible et l’invisible , Paris, Gallimard, 1964.

— [1996] : Notes de cours 1959-1961, Paris, Gallimard, 1996.

Russell B. [1908] : « La logique mathématique fondée sur la théorie des types », tr. fr. F. Rivenc, dans Logique et fondements des mathématiques, F. Rivenc et Ph. de Rouilhan éds., Paris, Payot, 1992.

Wang H. [1996] : A logical Journey, London, M.I.T. Press, 1996.

Publicités

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s