L’énigme de Fermat passée au crible (1/3)

Publié par Claude Mariotti, le 1 mai 2021   140

Xl zz1ciel

"Le Voyageur contemplant une mer de nuages".  Caspar David Friedrich

Sage parmi les fous, 
dans la cité la rumeur, 
et le ciel d'azur.  

Pierre de Fermat vu par l'auteur.

« La conviction profonde et partagée que Fermat n’a pas possédé une démonstration de son théorème vient de la longue histoire des tentatives faites pour l’établir. […] Les suiveurs des suiveurs, dans toutes les situations de ce genre, ne savent plus rien de ce qui a motivé les fondateurs […]. Ils pensent savoir tout ce qu’il y a à savoir, dès les commencements. » Jacques Roubaud, “Mathématique :” (1997).

« Quoi qu’il en soit, cette approche [d'Andrew Wiles], où le théorème de Fermat n’est qu’un corollaire très alléchant mais mineur, repose sur des techniques de représentations galoisiennes récentes. Reste possible qu’une démonstration élémentaire directe puisse être trouvée. » Catherine GoldsteinUn théorème de Fermat et ses lecteurs, p 120 (1995).

1. Avant-propos

Arriva un jour où plus aucun mathématicien contemporain de Fermat (vers 1608-1665) n’accepta de répondre à ses défis. Sa riposte fut à la hauteur de sa réputation, il lança un défi au monde.

Ce qui rend ce problème fascinant est la simplicité de son énoncé alors qu'il est extrêmement difficile à résoudre. Pendant plus de trois siècles les plus grands mathématiciens ont tenté en vain de prouver la véracité de ce théorème, dont Pierre (de) Fermat dit avoir « vraiment tissé, entièrement, l'explication tout à fait étonnante » (c'est la traduction après le décryptage de Roland Franquart de la deuxième ‘’OBSERVATIO‘’). Si cet Himalaya des mathématiques a pu être gravi après 324 ans d'efforts et d'espoirs déçus par Andrew Wiles en 1994, c'est uniquement par des moyens modernes et une voie très indirecte, au moyen d'une démonstration d'une extraordinaire complexité et longue d'un millier de pages dans sa première mouture. Le 24 juin 1993, au lendemain de la conférence où Andrew Wiles écrit au tableau noir ce qu'il pense être la démonstration du ‘’Dernier théorème de Fermat’’, le journal Le Monde annonce en première page : « Le théorème de Fermat enfin résolu ». The New York Times titre : « At Last, Shout of 'Eureka' In Age-Old Math Mystery » [1]. Mais le plus dur reste à venir pour lui, sa démonstration recèle une grosse faille qui ne sera comblée que neuf mois plus tard.

La preuve de Fermat, beaucoup plus courte bien que très difficile à assimiler, n’a toujours pas été admise par les Modernes. Voici, agrandie, une photo de l’Observatio de Fermat, observation qu'il écrivit on ne sait où au juste, à propos de la conjecture qu'il affirme avoir prouvée (vers 1636 lit-on généralement, je pense que c'est plus tardif). C'est ici l'exemplaire de la Bibliothèque de Lyon, qui attira l'attention de Roland Franquart en 2009.

Exemplaire de l'Université de Lyon :

En voici la traduction littérale la plus exacte que l'on puisse faire, de sa célèbre observation énonçant le théorème, avec :

  • detexi sur Dictionnaire Gaffiot : du verbe detego, dévoilermettre à nu
  • detexi  sur Dicolatin : mettre à découvert, découvrir mais seulement dans le sens de ôter ce qui couvre. "J'ai trouvé", ou "j'ai découvert", ou "j'ai inventé", se dit en latin  inveni (Dicolatin).
  • sane : assurément, réellement, entièrement, complètement.
  • demonstratio et demonstrationem sur Gaffiot ; action de montrer, de démontrer, de décrire ; demonstrationem sur Dicolatin : démonstration, description, raisonnement rigoureux.

« Mais que ce soit un cube en deux cubes ou bien un carré de carré en deux carrés de carré et en général jusqu'à l’infini, aucune puissance supérieure au carré ne peut être partagée en deux  puissances du même nom, ce dont j’ai assurément dévoilé l'explication étonnante [ou admirable]. La marge trop étroite ne la contiendrait pas. »

Voici maintenant la seule traduction officielle, qui est d'Émile Brassinne, dans son ouvrage Précis des œuvres mathématiques de P. Fermat et de l’Arithmétique de Diophante (Toulouse, 1853), cette traduction est reprise par Serge Coquerand dans son ouvrage À la (re)découverte des dix livres de l'arithmétique de Diophante) ainsi que par Bertrand Hauchecorne, qui l’exprime dans l'émission de France Culture Pierre de Fermat l’énigmatique (à 19’ 25’’) :

« Décomposer un cube en deux autres cubes, une quatrième puissance, et généralement une puissance quelconque en deux puissances de même nom au-dessus de la seconde puissance, est une chose impossible, et j’en ai assurément "trouvé" l’admirable démonstration. La marge trop exiguë ne la contiendrait pas. » L'ordre des mots est rigoureusement exact. La seule traduction erronée concerne le mot detexi, traduit malencontreusement par “j'ai trouvé”. Extrêmement rares donc, sont les commentateurs qui reprennent cette traduction officielle. On trouve au contraire des dizaines de fausses traductions dont la ligne générale est celle-ci : « Il est impossible de diviser un cube en deux cubes, ou un bicarré en deux bicarrés, et en général une puissance quelconque supérieure au carré en deux puissances de même degré, j'en ai découvert une démonstration véritablement merveilleuse que cette marge est trop étroite pour contenir. »

Une autre fausse traduction a été rapportée par Jean Itard (1902-1979), qui fut professeur de mathématiques et l'historien et eut une remarque particulièrement désagréable à l'encontre de Pierre de Fermat en écrivant en guise de conclusion à un court article en 1950 : « Jamais Fermat n’a été en possession d’une preuve de son Grand Théorème pour un exposant supérieur ou égal à cinq. » C'est le commentaire le plus désobligeant qu'on puisse trouver sur Pierre de Fermat. Le début de la phrase est péremptoire et violent : “Jamais Fermat”. Il poursuit en mettant deux Capitales d'imprimerie à ‘’Dernier Théorème‘’, manière radicale de démolir un théorème... capital. Jean Itard ne connaissant pas le latin s'était fié à l'une des nombreuses mauvaises traductions disponibles. La propagation de ces traductions a eu deux effets, a) tourmenter les savants pendant 324 ans (1994 – 1670 = 324) et non 358 ans (souvent arrondi en 350) comme on le lit souvent, b) permettre que le plus grand défi de Pierre de Fermat – retrouver et comprendre entièrement l’admirable démonstration qu'il a réellement dévoilée en sondant « les mystères de la science des nombres » – n'ait toujours pas été relevé en 351 ans (2021 – 1670 = 351).

L’objectif de cette étude sera de faire état de tous les arguments trouvés à ce jour en faveur de l’existence d’une preuve du grand théorème par Fermat lui-même. Bien qu’ayant nourri depuis longtemps un goût prononcé pour la mathématique et la physique (ah ! la découverte, dans ma jeunesse, des intégrales, de la dynamique des corps, des si belles, si simples et si logiques formules), je ne suis pas mathématicien, seulement un anonyme un peu polymathe, un peu philosophe, et surtout un insatiable curieux. De nombreux mathématiciens, professionnels et amateurs, se sont passionnés pour cette énigme, imaginant une démonstration “élémentaire” (courte) à leur portée. Las, cette simplicité apparente pose un voile sur des difficultés insoupçonnées. Pendant longtemps les savants ont été envahis de courriers qui leur soumettaient une démonstration bien sûr toujours fausse. C'est encore parfois le cas mais le plus souvent via internet qu'ils la font connaître. On trouve à peu près chaque semaine sur le net une nouvelle pseudo-démonstration.

Dans les années 1970 l'effet de découragement de ces 350 années d'échecs relatifs était tel qu'il était de bon ton de dire que l'assertion de Fermat n’était pas suffisamment générale pour être considérée comme significative ou qu’elle était soit indémontrable soit fausse. Mais en l'espace d'une trentaine d'années la communauté mathématique a radicalement changé sa perception de la question en passant d'un désintérêt plus ou moins courtois à l'enthousiasme le plus vif ! On s'est soudainement mis à croire à la véracité de l'assertion de Fermat vers 1985 et cette disposition d'esprit a été un puissant stimulant pour l'édification des difficiles théories qui ont conduit à sa démonstration. » Yves Hellegouarch.

Bien avant cette date il semble que l’inconscient collectif et l’effet de groupe à l’œuvre dans les hautes sphères de la discipline aient décidé qu’il faille arrêter les dégâts et disqualifier encore plus et par tous les moyens possibles Fermat et son théorème. Rendons hommage à tous les savants qui ont su faire preuve de retenue et de sagesse. La découverte d'une preuve par Wiles en 1994 suscita l'enthousiasme dans le monde entier, un enthousiasme mâtiné parfois d'un peu de tristesse : pour prouver un énoncé très élémentaire il avait fallu écrire tout un traité de mathématiques d’une difficulté inouïe. Jamais un mathématicien bien comme il faut n’aurait imaginé que Fermat (dont l'espiègle pédagogie était pourtant connue) ait inséré dans sa deuxième observation (outrageante ?) écrite en latin tout ce qui était nécessaire pour la décrypter.

Nos mathématiciens ne savent plus raisonner sainement sur les concepts primordiaux, n’y ayant jamais été contraints puisque leurs prédécesseurs, de plus en plus ont brûlé les étapes. Ils sont en conformité avec l’époque, une ère matérialiste. L’esprit est de plus en plus encombré de pensées compliquées, tout comme l’est la manière de chercher. Pour raisonner ils recourent à de plus en plus de symboles mathématiques, de formules de plus en plus complexes, leur pensée s’appuie sur cette complexité au lieu que d’être une pensée pure. L'abstraction dans le simple est devenue inaccessible, le pur spirituel, sa beauté, sont définitivement perdus.

Citons Alexandre Grothendieck (RÉCOLTES ET SEMAILLES – Réflexions et témoignage sur un passé de mathématicien) : « Nos esprits sont saturés d’un « savoir » hétéroclite, enchevêtrement de peurs et de paresses, de fringales et d’interdits ; d’informations à tout venant et d’explications pousse-bouton – espace clos où viennent s’entasser informations, fringales et peurs sans que jamais ne s’y engouffre le vent du large. Exception faite d’un savoir-faire de routine, il semblerait que le rôle principal de ce « savoir » est d’évacuer une perception vivante, une prise de connaissance des choses de ce monde. Son effet est surtout celui d’une inertie immense, d’un poids souvent écrasant. Le petit enfant découvre le monde comme il respire – le flux et le reflux de sa respiration lui font accueillir le monde en son être délicat, et le font se projeter dans le monde qui l’accueille. L’adulte aussi découvre, en ces rares instants où il a oublié ses peurs et son savoir, quand il regarde les choses ou lui-même avec des yeux grands ouverts, avides de connaître, des yeux neufs – des yeux d’enfant.

Il arrive que l’un ou l’autre de nous découvre telle chose, ou telle autre. Parfois il redécouvre alors dans sa propre vie, avec émerveillement, ce que c’est que découvrir. Chacun a en lui tout ce qu’il faut pour découvrir tout ce qui l’attire dans ce vaste monde, y compris cette capacité merveilleuse qui est en lui – la chose la plus simple, la plus évidente du monde ! (Une chose pourtant que beaucoup ont oubliée, comme nous avons oublié de chanter, ou de respirer comme un enfant respire…). Chacun peut redécouvrir ce que c’est que découverte et création, et personne ne peut l’inventer. Ils ont été là avant nous, et sont ce qu’ils sont. »

Les mathématiques, surtout celles de Fermat, sont aussi de la philosophie. Cette recherche fait appel à de nombreuses disciplines : mathématiques, histoire des math, philosophie (dont la logique philosophique), psychologie, sociologie, linguistique, pédagogie, didactique. La question considérée aide d'ailleurs à comprendre notre époque. Cette recherche fut effectuée principalement sur une période de 18 mois, de janvier 2019 à mai 2020.  Appréhender la psychologie d'un tel personnage pour tenter de découvrir tout ce qu'il a voulu signifier par ses astuces littéraires est un travail sans fin. Ce n'est que le temps passant, au fil de ces découvertes (on va de surprise en surprise), au prix de longues méditations entrecoupées de temps morts qu'on peut progresser. Ce travail en effet fut au début difficile car l'imaginaire collectif est là, qui sans cesse rappelle le jugement définitif qu'ont porté quelques grands savants à l'encontre de Fermat.

L’histoire du ‘’Dernier‘’ théorème commence aux alentours de l’année 1638. Fermat est alors âgé d’une trentaine d’années. On peut mieux comprendre son inextinguible soif de connaissances en considérant qu'il vit à une époque où sans rien renier des connaissances des Anciens mais au contraire en les admirant, on s'attache à leur étude pour mieux aller de l'avant. Tout est digne d'intérêt et on y est polymathe. Fermat est de ces hommes, humaniste, lettré, philologue, il connaît le latin, le grec et l'italien, fait des vers français, latins, espagnols. Natif de Beaumont-de-Lomagne dans le Tarn-et-Garonne, il s'installe d'abord à Bordeaux, puis à Toulouse, faisant carrière dans la magistrature où il s'acquitte de sa tâche d'une manière exemplaire. Lorsqu'il découvre l'arithmétique des Anciens, il y voit une telle intelligence, une telle stimulation pour l'esprit, que se contenter d'une activité rémunérée ayant surtout l'avantage d'assurer sa subsistance n'est même pas une question à se poser. Il voit dans l'étude des nombres la voie royale pour contempler les mystères de la Nature. Son enthousiasme débordant a trouvé là le moyen de s'exprimer, sa voie est tracée. Grâce à lui, la connaissance pourra s'accroître, se propager. La science des nombres n'est pas sa seule passion, le latin, langue des savants et des lettrés, n'a aucun secret pour lui. « Il fut façonné par la rigueur et l’intelligence latines : c’est sur ce terreau que put s’épanouir son prodigieux génie des mathématiques. » Il est très croyant, comme en témoigne son poème latin ‘’Soumets-toi à Dieu ou l'agonie du Christ‘’ (dédié à Jean-Louis Guez de Balzac) dont le début incite la raison à renoncer aux vaines divinités des fables et à se soumettre à Dieu. Fermat est discret dans la vie et bien que ce fût un génie, « le plus grand homme du monde » selon Blaise Pascal, on sait peu de choses sur sa vie. On ne connaît que quelques très rares démonstrations qu'il voulut bien livrer, une des plus remarquables étant celle où il démontre que le nombre 26 est le seul de tous à être compris entre un carré et un cube : 25 (5x5), et 27 (3x3x3).

Un jour alors qu'il est en contemplation devant la beauté du théorème de Pythagore (a²=b²+c²), il s'interroge. Pourrait-on ajouter encore quelque chose au sujet, quelque chose auquel personne n'aurait jamais osé évoquer ? Dans la formule de Pythagore, l'exposant est le nombre 2, le seul nombre qui élevé au carré soit égal à son double (2² = 2+2). Fermat put penser que cette propriété lui conférait des propriétés très particulières, et il a l'idée qui allait bouleverser les mathématiques pour les siècles à venir. L'impensable se produit, il remplace l'exposant 2 par un 3. Est-ce que l'égalité pourrait encore exister pour certains cas en choisissant avec soin les valeurs de a, b et c ? On perçoit déjà l'étendue de ses ambitions. A priori il ne semblait pas que ce fût possible, on pouvait toujours s’en approcher de très près, parfois même à une unité, mais trouver une solution semblait impossible. Le nombre 2, monstre mathématique, semble le suggérer, à l'Unité, on a ajouté l'unité pour en faire une double unité, une manipulation philosophiquement blasphématoire – ou merveilleusement créatrice. Non seulement 2 est le premier des nombres premiers, mais il est aussi le seul nombre premier à être pair. Pour Fermat, tenter de prouver l'impossibilité de son égalité serait un défi formidable, et c'est exactement ce qu'il lui faut. Certainement se rend-il compte assez vite qu’il serait plus facile de tester d'abord sa méthode avec un 4 en exposant, le carré de 2, ce nombre qui semble narguer tous ses suivants. Il utilise une méthode qu'il nomme ‘’descente infinie’’, ou descente indéfinie, un raisonnement par récurrence et un autre par l'absurde, le tout extrêmement efficace. Sa méthode fonctionne parfaitement avec l'exposant 4, plus difficilement avec 3. En septembre 1636 il commence à exciter la curiosité de ses correspondants, dans une lettre à Mersenne pour Sainte-Croix il propose ce défi : « Trouver deux puissances quatrièmes dont la somme est une puissance quatrième et deux cubes dont la somme est un cube ». À partir de l'exposant 5 et jusqu’à l’infini, il comprend vite que la méthode n'est plus adaptée. Il lui faut trouver une autre voie, qui très certainement n’aura aucun rapport avec la première. En 1670, cinq ans après sa mort, dans une courte “OBSERVATIO” provocatrice écrite en latin et tenue jalousement secrète de son vivant, mais que son fils Clément-Samuel fait connaître, il affirme avoir « assurément dévoilé une explication tout à fait étonnante que la marge trop étroite ne saurait contenir ». À cette observation Samuel en a ajouté 47 autres, le tout est inséré aux endroits adéquats dans le Livre VI de l’Arithmetica du mathématicien grec Diophante qui fut publiée en 1621, et où Bachet de Méziriac avait ajouté une traduction du grec au latin. On dispose donc en 1670 d'une nouvelle Arithmetica légèrement augmentée mais ô combien précieuse pour la suite. L'observation en question se rapporte à la question VII, c'est la deuxième des 48 et elle se distingue notablement des autres. Nous y reviendrons.

Chez les Anciens on n’était pas sollicité dès le plus jeune âge par toutes les vanités qui encombrent maintenant l’esprit de nos enfants. De grandes intelligences ont pu ainsi atteindre à un grand savoir en pénétrant l’essence des choses. Socrate, Euclide, furent de ces hommes. Bien plus tard et dans un même siècle, Pascal, Leibnitz et Fermat qui fut un fameux exemple en théorie des nombres, construisant de puissants raisonnements avec parfois le seul recours aux mots. Comme Pythagore, Fermat sait que quand l’homme a posé 1, puis 2, tout est déjà posé, l’unicité, la pluralité du monde. Quelque chose pourtant a dû spécialement lui plaire avec ce premier nombre pluriel, pour rendre le théorème de Pythagore décidément inégalable par sa puissance, sa singularité, en imaginant une conjecture beaucoup plus plurielle. Il fallait mettre sur un des deux plateaux de la balance les plus importantes propriétés du premier nombre entier suivant l’unité, l'unité doublée. Puis trouver et placer sur l’autre plateau une nouvelle conjecture qui soit en rapport avec la première, mais appelant cette fois l’infinité des nombres entiers (remarquons que 1, le nombre unitaire, n’est pas directement présent dans la «comparaison», il est “à part”). Peser le pour et le contre semblait a priori un défi gigantesque. Certainement très vite Fermat voit que les deux plateaux de la balance ne pourront jamais se trouver à la même hauteur, une mise en abyme est impossible. Il va donc s’attacher à le prouver.

La question du Dernier théorème est bien plus qu’une question arithmétique. Son histoire est comme un symbole profond de l'historiographie de la Mathématique. En reprenant l'idée de Eric Temple Bell nous sommes certain que la civilisation s'éteindra avant que nos mathématiciens puissent comprendre l'explication de Fermat.

2. Genèse de l'étude

La première lecture (vers 1997) qui m'a fait m'intéresser à ce problème est celle du célèbre ouvrage de vulgarisation de Simon Singh, Le dernier théorème de Fermat, lecture qui m'avait été suggérée par une amie étudiante en mathématiques. J'ai commencé à sentir que je tenais quelque chose de beau et important. Baudelaire dit dans un de ses petits poèmes en prose : « J’aime passionnément le mystère parce que j’ai toujours l’espoir de le débrouiller. » J'ai moi aussi cette passion poussée à un haut degré. Souvent on considère un mystère comme insoluble, par la raison même qui devrait le faire regarder comme "facile" à résoudre. Concernant ce théorème c'est peut-être seulement vers 2010 que je découvris mon premier indice, une formulation étrange de Fermat, un peu ambigüe, dans sa dernière lettre à Carcavi où il fait allusion à la fameuse fausse conjecture. Je pressentis que j'allais avoir affaire à forte partie (c'était Fermat..). Il cachait certainement beaucoup de choses, mais en même temps il devait avoir laissé de nombreux indices puisqu'il semblait l'avoir déjà fait une fois. Et je compris que ce n’était pas des réponses qu’il fallait chercher, mais des questions, de bonnes questions. Je trouvai d'abord celles-ci :

  • Fermat était-il ingénieux au point d'avoir pu trouver, par un pas de côté, une preuve «simple» et très courte, très profonde et complexe, très éloignée aussi des méthodes du calcul traditionnel ?
  • Pourquoi tout est-il si bizarre autour de ce théorème ? Avait-il une ou plusieurs raisons d'être souvent si mystérieux ? Par exemple :
  • Pourquoi sa plus célèbre observation, comme bien d'autres, est-elle écrite dans le mode de la plaisanterie ?
  • Pourquoi la fausse conjecture sur les nombres de la forme  22n + 1,  la dernière fois qu'il la formule, l'écrit-il sous une forme ambigüe qui laisserait croire à ceux qui ne lui feraient pas confiance, qu'il la croyait vraie et que donc il n'était pas fiable sur tout le reste ?
  • Aurait-il laissé d'autres indices ?
  • Comment se fait-il aussi que son Arithmetica, socle de tout son travail, où soi-disant était notées ses 48 observations et qui devient, surtout après la découverte de l'énoncé de son grand théorème, un document historique d'une valeur considérable, a disparu ? Pourquoi son fils Clément Samuel ne l'a-t-il pas conservée ? Avait-il une bonne raison ?
  • Ne faudrait-il pas analyser en profondeur tout ce que Fermat écrit, qui tourne autour du théorème ?
  • Est-il un honnête homme ? A-t-il une très bonne morale ? Certainement. Alors pourquoi ne pas commencer par lui faire confiance ?
  • Corollaire :  pourquoi certains commentateurs ne lui ont-ils pas fait confiance ? Pourquoi au contraire l'ont-ils déprécié ?
  • Enfin, pourquoi ses commentateurs n'ont-ils jamais éprouvé le besoin (à ma connaissance en tout cas), de se poser ces questions ?

En faisant preuve du simple bon sens, dans une perception fine des choses, une approche objective dénuée de tout préjugé, à mesure qu’on progresse dans la recherche nos découvertes nous apportent un lot de satisfactions inestimable, c'est un merveilleux cadeau qu'on se fait à soi-même. Vers 1646 Roberval, évoquant Fermat, écrivait à Torricelli : « Cet homme remarquable, le premier d’entre nous, m’envoya deux propositions très subtiles, sans les accompagner de leurs démonstrations. Et alors que je lui demandais les démonstrations de ces propositions ardues, il me répondit, par lettre, en ces termes : « J'ai dû travailler pour les découvrir. Travaillez vous aussi ; vous prendrez ainsi conscience que c’est dans ce travail que consiste la majeure partie du plaisir. » Qui a l'esprit de discernement sait faire preuve de confiance, d'humilité et d'audace, d'analyse rigoureuse et d'imagination créatrice, toutes aptitudes nécessaires pour résoudre les plus difficiles énigmes. Je crois que la résolution de ces grandes énigmes, soit que la notion d’infini représente une pièce essentielle du mystère, soit qu'elle en soit absente, est presque toujours possible, ou au moins largement abordable. Mais dans ce cas-ci j'avais beau chercher, presque toujours avec le même enthousiasme, je ne trouvais d'abord que quelques indices de-ci de-là. Il est vrai qu'en les assemblant ils me confortaient déjà beaucoup dans mon intuition initiale, et même s'ils n'aboutissaient à rien de concret ils constituaient après à un survol objectif du contexte général plusieurs fois réitéré (où j'incluais les mots de Fermat mais aussi ceux de tous ses détracteurs), un bon début d'analyse. Il me fallut attendre une douzaine d'années avant de recevoir un message privé via Wikipédia d'un mathématicien amateur (Roland Franquart) qui allait complètement débloquer la situation. Nous nous sommes téléphoné et je crois que nous avons conversé plus d'une heure. Par la suite nous avons beaucoup échangé et travaillé sur un blog dédié où une doctorante était intervenue. Puis j'ai continué à tenter de rendre l'article de Wikipédia sur le théorème un peu plus fiable sans parvenir à grand-chose, une vive opposition m'en empêchant. Heureusement en 2013 je fus encouragé par Catherine Goldstein, mais je décidai malgré tout de quitter Wikipédia pour me consacrer entièrement à mes recherches. Je ne me doutais pas alors qu'en étudiant l'esprit libéré j'allais beaucoup progresser au fil des trouvailles de plus en plus étonnantes qu'après Roland Franquart j'allais faire à mon tour. Je dois à la justice de dire que sans ses propres découvertes je n'aurais rien trouvé de neuf, toute cette recherche n'aurait pu se faire. À tout seigneur tout honneur.

Vers 2006, après avoir consulté la fiche Wikipédia concernant ce théorème j'avais remarqué que de tous les arguments avancés par les contempteurs de Fermat,  aucun ne tenait la route. Nombreux sont les scientifiques contemporains, toutes disciplines confondues, qui raisonnent avec une forme de pensée magique et font preuve de condescendance quand ce n'est pas un mépris ouvert à l'égard des Anciens. Cette condescendance fait partie des mœurs courantes des mathématiciens accomplis. Dieu sait si je suis averti pour dire combien il peut y avoir de personnes bardées de diplômes comme autant de certitudes, de ces personnes que la reconnaissance académique conforte. La question à se poser en voyant la façon étonnante dont était l'article en question était « Pourquoi ? ». C'était la première pierre à soulever impérativement pour ne pas être contaminé par le pessimisme ambiant et partir du bon pied.

Cette conformité jalouse et exacerbée avec la pensée unique étant évidente j'ai voulu d'abord répertorier tous les mauvais arguments (et leurs conséquences néfastes), qu'au cours des siècles les contempteurs de Fermat avaient pu imaginer. Ensuite puisqu'il avait lancé son défi, il me fallait tout faire, puisqu'ayant assez vite perçu ses manières j'admirais l'homme, pour relever son défi. Non pas le défi mathématique en lui-même puisque je ne suis pas mathématicien, mais le défi de percer tous les secrets que dans ses divers écrits relatifs au théorème et à la fameuse fausse conjecture il aurait pu dissimuler. La difficulté étant qu'il n'en disait jamais plus que nécessaire, les meilleurs signaux qu'il envoyait étant les plus difficiles d'accès. Ainsi est née cette recherche, très laborieusement d'abord. Tenter de résoudre de la façon la plus exhaustive possible cette formidable énigme, qui exige une analyse poussée de la psychologie de Fermat, de ses nombreux écrits, qui demande aussi une conscience aigüe de sa sagacité, a suscité enthousiasme et excitation dans une recherche passionnante. Si j'avais été mathématicien jamais je n'aurais pensé à chercher avec autant de foi et de persévérance tous ces arguments (la plupart non mathématiques) pour réhabiliter Pierre de Fermat et son dernier défi, j'eus été empêché, par conformiste, de raisonner en sortant des sentiers battus et rebattus pendant ces siècles qui avaient abouti à une incroyable imposture scientifique.

Les techniques sophistiquées qu'utilise le mathématicien contemporain exigent un long apprentissage, beaucoup de travail, elles occupent tout son temps. Ses contraintes professionnelles ne lui permettent plus d'en consacrer à une question qui lui semble de si peu d'intérêt. Pour détricoter une pareille énigme c'est le pédagogue singulier, le combattant isolé, qu'il fallut convoquer. Son arme de prédilection est le défi. Mais pour que les mathématiciens qui le suivront ne soient quand même pas trop furieux, il ne doit pas les défier trop ouvertement, il trouve alors une nouvelle arme, la facétie à retardement, et il en use à profusion. Prendre acte de ce constat fut capital. Pour avoir une chance de relever le défi, il fallut aller directement à la source, trouver puis exploiter la traduction la plus exacte, la plus fidèle possible de la deuxième "OBSERVATIO ".  Ensuite, en espérant qu'il n'en était pas resté là, il fallut continuer de chercher avec une obstination sans faille toutes les autres pistes qu'il aurait pu laisser. Ce fut long, semé d'embûches, souvent grisant.

3.  « L'historien ne doit rien refuser d'entendre. »  (Cicéron)

Voici la traduction de l'épitaphe de Pierre de Fermat :

« À la pieuse mémoire de Pierre de Fermat, membre du parlement de Toulouse.

Très versé dans les belles lettres, dans la connaissance des langues, des mathématiques et de la philosophie, il se montra jusrisconsulte éminent et remplit sa charge avec tant de distinction qu’il semblait avoir concentré sur l’étude des lois toutes les forces de son esprit, bien qu’il les divisât entre les spéculations les plus ardues. Ennemi du vain étalage, il négligea de livrer ses travaux à l’impression ; plus grand encore par le dédain que par la production, il lut, sans orgueil, dans les livres d’autrui, la glorification de ses œuvres. Aujourd'hui parvenu, comme ses vertus nous donnent le droit de l'espérer, à contempler la vérité éternelle et à mesurer toutes choses, grandes et petites, à la clarté d'un rayon céleste, il semble, de son tombeau, adresser au passant ce précieux conseil de morale chrétienne : “Veux-savoir ce qui est utile ? Aime à être ignoré.” » 

  • Connaît-on la date de naissance de Fermat ? Claire Adélaïde Montiel a mené une enquête très détaillée, L’homme qui naquit trois fois 1/52/53/54/55/5 et commente ainsi l'épitaphe : « Cet éloge se termine par la mention suivante : “OB.XII.IAN.M.D.C.LXV. AET.AN LVII” qu’on peut traduire ainsi : “ Il mourut le 12 janvier 1665 âgé de 57 ans ou bien : dans la cinquante-septième année de son âge”, ce qui le ferait naître entre janvier 1607 et janvier 1609. »  Nous pensons que cette période de deux ans est bien plus fiable que la date de 1601 parfois évoquée.

Les Anciens étaient parvenus à extraire d’une gangue arithmétique informe les concepts principaux sans disposer de tout le symbolisme algébrique aujourd'hui disponible. Pierre de Fermat, comme ses contemporains mais à un degré plus élevé, a maîtrisé l’art de contourner les difficultés auxquelles se heurteront ceux qui viendront après lui, au point de pouvoir se passer de nombreux outils mathématiques qui seront découverts bien plus tard. Nous trouvons maintenant évidents des concepts primordiaux que ces Anciens ont découverts. Jusqu’au siècle dernier, et même encore parfois de nos jours, ce caractère d’évidence a engendré chez quelques savants, quand ils ont eu à ferrailler avec Pierre de Fermat, leur maître pourtant, une coupable arrogance. 

Si aller à l'encontre de tous les jugements négatifs qui ont été portés à son encontre n'est pas aisé, deux choses  aident à garder intacts l'enthousiasme et la confiance.

  • On sait d'une part qu'il disposait de très peu de temps pour assouvir sa passion des nombres. Ce n'est qu'en gardant par devers lui la grande majorité de ses inventions au fur et à mesure qu'il les faisait, qu'il pouvait préserver sa tranquillité et exploiter tout son potentiel créatif. S'il avait commencé à rédiger des démonstrations complètes de ses inventions, la compréhension en ayant été ardue, des esprits tatillons lui auraient fait perdre son temps avec d'incessants chipotages. La formulation de ses défis, qui souvent ne comportaient que quelques lignes et pouvaient paraître inconvenants de la part d'un notable, témoignait aussi de ce cruel manque de temps.

Alors qu'il a affirmé dans sa correspondance posséder la preuve du cas particulier n=4 de son grand théorème, il ne nous dit pas, dans le Diophante, quelle est cette preuve. Il nous livre explicitement sa démonstration du “Théorème de Fermat sur les triangles rectangles” sans du tout nous préciser qu'elle a un rapport quelconque avec le cas n=4. Or la preuve de ce cas est immédiatement déductible du théorème, et c'est la seule démonstration qu’il révèle – dans ses 48 observations en tout cas. À première vue c'est incompréhensible tant il est vrai que, sans faire preuve de fausse modestie, il n'a jamais hésité à mettre en avant ses capacités pour mieux faire progresser la science. Pour quelle raison alors reste-t-il si discret avec le cas particulier n=4 de son théorème, si ce n’est pour indiquer qu'il a placé là une première balise, et qu'il faudra nous attacher à en chercher d'autres, mieux cachées. Ainsi il ne faudra pas prendre à la légère : a) son défi plusieurs fois réitéré sur le cas particulier n=3, jusqu'à son affirmation, finalement, qu'il a fait la preuve de l'impossibilité de ce cas ; b) son affirmation d'avoir assurément dévoilé l'explication étonnante (ou admirable) de son théorème général. Cela nous semble être le tout premier des arguments en faveur d’une maîtrise complète, par Fermat, de la situation : il sait de quoi il parle et nous le fait savoir. On est assuré par ailleurs qu'il possède effectivement la preuve du cas n=3,  mais là encore, alors qu'il n'a cessé dans parler dans ses lettres, il passe complètement sous silence ce dernier cas dans son Diophante. Il est vrai que s'il avait renoncé à ce principe de ne révéler que le strict minimum, les mathématiciens n'auraient eu aucun effort à fournir.

Sûrement avait-il aussi une revanche à prendre sur la communauté des mathématiciens (« Ah ! ils n'ont pas voulu me prendre au sérieux ? Eh bien ce n'est plus à ces esprits négligents, ou méprisants, que je penserai dorénavant. »). S'est-il dit aussi : «  Nous allons bien nous amuser. » ? Certains de ses correspondants en effet, à qui il avait soumis des problèmes qu'ils avaient été incapables de résoudre, avaient méprisé ses travaux, les jugeant totalement inutiles (ils se révélèrent pourtant d'une importance considérable). Il en fut certainement contrit au point de vouloir les punir de leur négligence. La nature de son caractère dut y être pour quelque chose, on le savait très humble, mais il était parfaitement conscient de sa force, et la fausse humilité était étrangère à ce Gascon. Une démonstration complète d'un cas particulier (n=3) de son grand théorème ne sera trouvée que deux siècles plus tard par Gauss, un autre immense mathématicien. Gauss qui écrivait en 1801 à propos du petit théorème de Fermat : « Ce théorème remarquable, tant par son élégance que par sa grande utilité, s'appelle ordinairement théorème de Fermat, du nom de l'inventeur. » Cet intérêt de Gauss pour le travail de Fermat fut d'ailleurs, mais en partie seulement, à l'origine de sa future carrière de mathématicien. Par ailleurs, en citant E.T. Bell, « Gauss discréditait les assertions sans fondement. » Un ami de Gauss lui avait demandé pourquoi il ne concourait pas pour le prix offert en 1816 par l’Académie française des sciences qui récompenserait l'inventeur d'une preuve (ou d'une invalidation) du Dernier Théorème. « J’avoue, répondit-il, que le Théorème de Fermat est une proposition isolée qui a très peu d’intérêt pour moi, puisque je pourrais facilement trouver une multitude de propositions du même genre, que personne ne pourrait jamais ni valider ni invalider [...]. Bien qu’il ne l’ait jamais dit explicitement, Gauss semblait douter que Fermat avait prouvé son théorème. »

  • D'autre part, certains de ses écrits les plus importants sont rédigés en latin, la langue de l'ellipse par excellence. Fermat étant expert en latin, il nous a fallu débusquer le plus possible de ses non-dits – écrits mais subtilement cachés – auxquels l'obligeaient : a) le souci de discrétion dans une époque troublée (alors qu'il est magistrat) ; b) le manque de temps ; c) le principe même du défi, qui s'accordait avec les deux points précédents ; enfin, d) son goût pour la pédagogie, qui s'accorde à son tour avec les points précédents. Quatre raisons donc d'en dire le moins possible.

Lorsqu'on étudie Fermat, il y a deux façons de procéder : 1) Avec un a priori favorable : toujours se souvenir que c’est un grand pédagogue, lui faire confiance, détecter tous les arguments spécieux émis par ses innombrables détracteurs, au contraire rechercher les nombreux indices qu’il nous laisse, et tous les bons arguments (j’en ai compté quatorze importants). Les auteurs ayant publié un livre consacré au grand théorème ont eu la sagesse de rester objectifs. 2) Avec un a priori très négatif : le sous-estimer, ne pas faire confiance à son désir le plus cher et le plus louable de ne jamais nous mâcher le travail On imagine alors de multiples arguments pour le discréditer. Citons Alexandre GROTHENDIECK : « L’aspect de cette dégradation auquel je pense surtout ici (qui en est juste un aspect parmi de nombreux autres) est le mépris tacite, quand ce n’est la dérision sans équivoque, à l’encontre de ce qui (en mathématique, en l’occurrence) ne s’apparente pas au pur travail du marteau sur l’enclume ou sur le burin – le mépris des processus créateurs les plus délicats (et souvent de moindre apparence) ; de tout ce qui est inspiration, rêve, vision (si puissantes et si fertiles soient-elles), et même (à la limite) de toute idée, si clairement conçue et formulée soit-elle : de tout ce qui n’est écrit et publié noir sur blanc, sous forme d’énoncés purs et durs, répertoriables et répertoriés, mûrs pour les ‘’banques de données’’ engouffrées dans les inépuisables mémoires de nos méga-ordinateurs. Il y a eu (pour reprendre une expression de C.L. Siegel) un extraordinaire ‘’aplatissement’’, un ‘’rétrécissement’’ de la pensée mathématique, dépouillée d’une dimension essentielle, de tout son ’’versant d’ombre’’, du versant ‘’féminin’’. Il est vrai que par une tradition ancestrale, ce versant-là du travail de découverte restait dans une large mesure occulté, personne (autant dire) n’en parlait jamais – mais le contact vivant avec les sources profondes du rêve, qui alimentent les grandes visions et les grands desseins, n’avait jamais encore (à ma connaissance) été perdu. Il semblerait que dès à présent nous soyons déjà entrés dans une époque de dessèchement, où cette source est non point tarie certes, mais où l’accès à elle est condamné, par le verdict sans appel du mépris général et par les représailles de la dérision. » (rep.888)

Si l’on cherche le livre entier que Fermat aurait consacré à la science des nombres, on trouvera beaucoup de choses dans l’Arithmetica de 1670 qui inclut 48 observations très stimulantes. La pépite qui y figure est une galéjade qui laisse pantois. Jamais on n’avait vu, jamais plus on ne verra, un génie fût-il universel livrer la démonstration d’un puissant théorème sous forme d’une affirmation qui laisse tant à penser : « J'en ai réellement mis à nu l'explication tout à fait étonnante que la marge trop étroite ne contiendrait pas ».

« La marque infaillible du sublime, c’est quand nous sentons qu’un discours nous laisse beaucoup à penser, qu’il fait d’abord un effet sur nous, auquel il est bien difficile, sinon impossible, de résister, et qu’ensuite le souvenir nous en dure, et ne s’efface qu’avec peine. » Traité du Sublime (auteur inconnu, peut-être Longin).

« Le génie n’est pas imitable, il est incommunicable. On ne peut pas le transmettre parce que le génie lui-même serait incapable d’en donner les règles, c’est du côté du sublime plutôt que du beau. » Hélène Frappat.

Être mathématicien professionnel a des avantages mais aussi des inconvénients. Parmi ces derniers l’un émerge : vous ne pensez plus pratiquement qu’à votre travail, votre esprit y est occupé jour et nuit, consciemment ou inconsciemment. Quant à l'étude du cas Fermat, de nombreux mathématiciens et historiens s’y sont penchés, mais un consensus ne s’est jamais fait. Allez-vous perdre votre temps à l’étudier ? Si vous êtes un simple amateur, et que vous pensez être objectif, le problème se pose différemment, vous constatez d’abord que l'assemblage des arguments avancé par les commentateurs sceptiques n'est pas sérieux, tout l’édifice vacille si vous ôtez les plus mauvais :
1) Fermat ne disposait pas de nos outils modernes – c’est un argument parfois avancé par les Modernes.
2) Il n’a pas jugé utile de rectifier, puisque ces observations ‘’étaient réservées à son seul usage‘’ (nous verrons plus loin pourquoi ce n'est pas le cas).
3) Fermat a dû se tromper, il s’en est aperçu plus tard, mais il n’a pas jugé utile de rectifier.
D'ailleurs il s’était déjà trompé une fois avec les nombres de la forme forme 22n + 1.

Si donc vous êtes juste un amateur très attentionné, vous voyez immédiatement qu’il y a anguille sous roche. Alors vous vous documentez. Longtemps si vous êtes un passionné. Une remarque très vite vous est venue à l’esprit : ces commentateurs semblent être partis de l’a priori que Fermat n’avait pu trouver une preuve, puis ont cherché tout ce qui pourrait les conforter dans cette idée, agrégeant leurs arguments en un seul bloc pour en faire une certitude. Vous vous posez beaucoup de questions sur l’honnêteté intellectuelle de certains savants. L’amateur que vous êtes se dit alors : « Tout ceci n’est qu’un écran de fumée », smoke and mirrors, disent les Britanniques. Fermat, dont la véritable profession est magistrat, a toujours considéré l’émulation comme le meilleur moteur dans ses recherches arithmétiques. Il aura tout essayé, pendant 19 ans il a mis au défi 7 de ses correspondants : prouver, ou infirmer, sa fausse conjecture.

L’attitude que l’on a face au ‘’Dernier théorème’’ (on dirait le titre d’un roman, ce qu’il est en effet) dépend donc de l’a priori choisi au départ. Si l’on choisit celui qui est favorable on se dit que Fermat, pédagogue et facétieux à la fois, est avant tout un honnête homme et qu'il n’a pas dû en rester là. On est prêt alors à chercher assidûment tous les indices qu’il aurait pu nous laisser, en ne négligeant absolument aucune piste et en cherchant les meilleurs arguments. Eric Temple Bell croyait en une preuve de Fermat et pensait que la civilisation probablement s'éteindrait avant que le Dernier théorème soit résolu. Il n'était pourtant pas totalement exclu que le théorème soit un jour prouvé par une méthode très complexe, ce fut le cas, et on découvrira encore d'autres preuves complexes. Vouloir à tout prix croire que Pierre de Fermat n’aurait pu trouver une preuve empirique, donc beaucoup plus simple que celle de Wiles en 1994, est une mal-mesure criante de la science des nombres, et plus généralement de l'intelligence humaine.

4. Mathématiques et poésie

Blaise Pascal, dans les Pensées, distingue l'esprit de géométrie et l'esprit de finesse.

À un pur mathématicien qui n’est que mathématicien, les plus grandes évidences toujours échapperont. J’ai lu très peu de mathématiciens en qui, en dehors de leurs mathématiques, on pouvait accorder toute confiance. Seul peut raisonner clairement le mathématicien qui a gardé son esprit d’enfance, ce doit être un poète, qui jamais ne bride son imagination créatrice. Etienne Klein à propos d'Einstein : « C'est peut-être ce que j'admire le plus chez lui. Cette capacité qu'il avait à se poser des questions toutes simples, des questions d'enfant, et à leur trouver des réponses élaborées avec toute la rigueur d'un cerveau d'adulte. » Souvenons-nous aussi que Fermat a écrit de la poésie (en plusieurs langues). Pensons à Giordano Bruno. Pensons à l’inoubliable logicien qu’était Lewis Caroll, auteur de ‘’Alice au pays des merveilles’’ et de ‘’ De l'autre côté du miroir’’. Pensons à Jacques Roubaud, écrivain et mathématicien, membre de l'Oulipo, joueur de go fort spirituel et poète, qui concilie opportunément « l'esprit de géométrie et l'esprit de finesse ». Puis remarquons que Catherine Goldstein, chercheuse en mathématiques et historienne, qui a toujours dit contrairement à quelques savants que l’existence d’une preuve du Théorème de Fermat par Fermat lui-même n’avait rien d’improbable, avait pour père un poète, Isidore Isou (1925-2007) qui fut aussi peintre, romancier, dramaturge, économiste, … N'oublions pas non plus les écrits littéraires d'Alexandre Grothendieck (voir infra).

Selon le mathématicien Jacques Hadamard la rêverie, l’imagination, joue un grand rôle dans l’invention mathématique, c’est souvent en imaginant un chemin nouveau que les plus grands chercheurs ont «vu» une solution jusqu'alors inaccessible. Le mot “théorème” vient d’ailleurs du grec ancien θεώρημα (theốrêma en latin) : une proposition objet de contemplation, de méditation. Selon Bachelard l’imagination confère surtout le pouvoir de nous libérer des images premières fournies par la perception en les déformant, en les changeant : « Le vocable fondamental qui correspond à l’imagination, ce n’est pas image, c’est imaginaire. » (L’air et les songes. Paris, José Corti, p.7).

La mathématique s’occupe des quantités et des formes, elle n’est pas le tout. Une raison cultivée par la seule logique algébrique ne convient pas. La raison doit être gouvernée par la logique générale, abstraite. Les mathématiciens ont implicitement postulé qu’une vérité purement algébrique devait être une vérité générale. La confusion est si énorme, l'erreur si grossière, qu'on ne peut que s'émerveiller de l'unanimité avec laquelle elle fut acceptée. De même un axiome mathématique ne peut être un axiome d’une vérité générale. Les mathématiciens ont aussi cru bon d’appliquer le terme ‘’analyse’’ à des domaines de leur discipline, considérant ainsi que les mots tirent leur valeur de leur application. Essayez, si vous ne craignez de vous faire écharper, d’expliquer cela à un pur mathématicien qui ne raisonne qu’avec sa raison algébrique. L'assujettissement à un biais cognitif aussi pernicieux provient d'un cartésianisme à œillères empêchant tout imaginal de prendre sa place dans une réflexion englobante.

Extrait de la lettre de Fermat à Claude Clerselier à propos de la démonstration de Descartes sur la réfraction (21 mai 1662) : « […] Car si cette demonstration est dans les regles des demonstrations certaines et infaillibles, il n’est rien de plus vray, sinon que ceux qui n’en sont pas convaincus ne l’entendent point. La qualité essentielle d’une demonstration est de forcer à croire, de sorte que ceux qui ne sentent pas cette force, ne sentent pas la demonstration mesme, c’est à dire, qu’ils ne l’entendent pas. […] ».

5. Fermat sur le divan

5.1. Premier maillon : les nombres de Fermat

« En plein cœur de toute difficulté se cache une possibilité. » Albert Einstein

« C’est ce que trouve qui m’apporte ce que je cherche. » Pierre Soulages[3]

 Nos mathématiciens s’accordent à dire que Fermat connaissait la méthode qui montre si les nombres de la forme  22n+ 1 (nombres de Fermat) sont premiers ou non. Une des explications que donne ses plus virulents détracteurs sur l'annonce d'une fausse conjecture par Fermat, est qu'il avait dû faire une erreur de calcul !, mais qu’il n’avait pas vérifié son assertion (...). Pendant quasiment un tiers de sa vie, il a pressé tous ses correspondants, chacun à leur tour, de venir l'aider (!). Une période de 19 ans assurément était insuffisante pour permettre à un mathématicien de sa trempe de vérifier un calcul très simple qui ne prend que quelques minutes pour le cas F5 . Michael Mahoney, professeur d'histoire et d'histoire des sciences, estimait que Fermat se serait assuré de la validité de la conjecture seulement jusqu’à F4, et en aurait déduit qu'elle devait être toujours valide sans même vérifier le cas F5.

En utilisant les nombres de la forme 74k+1 Fermat inventa une méthode très ingénieuse pour prouver que 237 – 1 (soit 137 438 953 471) est divisible par 223. En utilisant le même argument, avec les diviseurs de la forme 64k+1 cette fois, il pouvait montrer en 4 courtes divisons que F5 est divisible par (64×10) + 1 (soit 641), donc qu'il n'est pas premier et que la conjecture est fausse. Il écrit sans cesse qu'il n'a pas la preuve de cette proposition et d'ailleurs il ne la joint pas à ses 48 Observations (dans notre thèse il l'a toujours sue fausse) que son fils transcrira sur l'Arithmetica de 1670, « où toutes ces propositions, à mesure qu’on s’en est occupé, ont été trouvées rigoureusement exactes ». Mentionnons aussi une lettre de Fermat à Mersenne datée du 7 Avril 1643 dans laquelle on peut lire : « Vous me demandez si le nombre 100 895 598 169 est premier ou non, et une méthode pour découvrir, dans l’espace d’un jour, s’il est premier ou composé. À cette question, je réponds que ce nombre est composé et se fait du produit de ces deux : 898 423 et 112 303, qui sont premiers. » Les méthodes que proposera plus tard Gauss (1777-1855) dans ses Disquitiones arithmeticae pour décomposer un nombre composé en ses facteurs premiers n'auraient pu résoudre le problème proposé par Mersenne. Dans son livre Un théorème de Fermat et ses lecteurs, Catherine Goldstein étudie particulièrement l’Observation XLV de Fermat (sa formulation, ses lectures, etc.), qui est rappelons-le la seule preuve complète d'un théorème (Théorème de Fermat sur les triangles rectangles) figurant dans ses observations. Cette preuve montre l’impossibilité, comme en passant, du cas n=4. Au cours du temps les mathématiciens ont fait différentes lectures de ce théorème. C.G. y fait sa propre lecture qui a l’avantage de répondre « à toutes objections soulevées jusqu’à présent ». À la page 148, note 4, elle note que « des lettres importantes pour les recherches sur les nombres ne figurent pas dans les VARIA OPERA MATHEMATICA (publiées par son fils en 1679) comme la lettre de Carcavi de 1659 » (où figure la conjecture sur les nombres de Fermat). C'est la formulation d'un passage de cette lettre qui a fait dire à de nombreux commentateurs que Fermat avait dû se tromper. Concernant cette fausse conjecture et ses diverses formulations ce sont au total 5 lettres qui sont absentes des Varia opera (Œuvres mathématiques diverses, un recueil de mémoires et de correspondances de Fermat). Une seule de ces lettres en rapport direct avec la conjecture y est mentionnée. Voici les lettres qui étaient absentes :

1) à Frénicle de Bessy en août (?) 1640, où figurent ces mots, dont le contexte dans lequel Fermat les écrit n’a jamais été étudié (voir infra) par les commentateurs de Fermat : « [...] mais j’ai exclu si grande quantité de diviseurs par démonstrations infaillibles [...] » Fermat cherche à stimuler Frénicle.

2) à Mersenne, Noël 1640, : « Si je puis une fois tenir la raison fondamentale que 3, 5, 17, etc. sont nombres premiers, il me semble que je trouverai de très belles choses en cette matière, car j’ai déjà trouvé des choses merveilleuses dont je vous ferai part, après que j’aurai eu votre réponse et celle de M. Frenicle. » On peut penser que c'est moins de son ami le père Mersenne que de Frénicle (avec lequel Fermat aurait souhaité ferrailler dans la plus grande courtoisie) que Fermat donne l'impression qu'il pourrait attendre une réponse (somme toute ardue pour l'époque). L'appât tendu par Fermat était alléchant, mais d'après ce que l'on sait Frénicle n'a pas répondu et Fermat n'aura pas à faire part des choses merveilleuses qu'il a déjà trouvées. Que Frénicle réponde ou non, Fermat aurait été gagnant. Cette absence de réponse sera pour lui un bon prétexte pour garder par devers lui ces choses merveilleuses. Ses habiletés, son don de psychologue, on le voit dans toute sa correspondance, sont confondants.

3) à Pascal, le 29 août 1654 : « et je vous avoue que je n’ai pu encore la trouver pleinement ; je ne vous la proposerais pas pour la chercher, si j’en étais venu à bout. Cette proposition sert à l’invention des nombres qui sont à leurs parties aliquotes en raison donnée, sur quoi j’ai fait des découvertes considérables. Nous en parlerons une autre fois. » Un nouvel appât tendu, plus discret cette fois, au grand Pascal, dont Fermat sait certainement qu'il est bien éloigné de ces considérations. Ces affirmations répétées à propos de sa prétendue certitude sur les nombres de la forme 22n + 1 feront le régal, dans leur ignorance, de ses détracteurs.

4) à Digby pour John Wallis, le 19 juin 1658 : « Il reste à trouver une démonstration de cette proposition, certainement belle mais aussi très vraie. » (Lettre XCVI dans Œuvres de Fermat, t. 2, p. 402-405.

5) à Carcavi, en août 1659, dans une lettre bilan à destination du jeune Huygens, qui avait de tout autres centres d'intérêt. La formulation de cette conjecture est très inhabituelle chez lui :

J’ay ensuite considéré certaines questions qui, bien que négatives, ne restent pas de recevoir très grande difficulté, la méthode pour y pratiquer la descente étant tout à fait diverse des précédentes, comme il sera aisé d’éprouver. Telles sont les suivantes :
– Il n'y a aucun cube divisible en deux cubes. – Il n'y a qu'un seul quarré en entiers qui, augmenté du binaire, fasse un cube. Le dit quarré est 25. – Il n'y a que deux quarrés en entiers, lesquels, augmentés de 4, fassent un cube. Les dits quarrés sont 4 et 121. – Toutes les puissances quarrées de 2, augmentées de l'unité, sont nombres premiers.
Cette dernière question est d’une très subtile et très ingénieuse recherche et, bien qu'elle soit conçue affirmativement, elle est négative, puisque dire qu'un nombre est premier, c'est dire qu'il ne peut être divisé par aucun nombre. »
Cette formulation à l'attention de Huygens, qui a prêté à confusion, deviendra après sa mort la plus célèbre de ses remarques sur les nombres de Fermat. Huygens était un jeune mathématicien de 30 ans, le seul qui aurait pu encore le suivre, mais il ne donna pas suite. La formulation de ce dernier ballon d'essai était pourtant fort excitante.

  • Dans ces lettres il demande du secours (!) à ses six principaux correspondants. L'un après l'autre il les teste, les stimule, les encourage à le suivre dans ses travaux (quelle motivation pour eux, venir à l'aide du grand Fermat). Mais aucun ne répondra à part Frénicle.
  • Cette fois Fermat a ‘’considéré” certaines ‘’questions”. Il n'emploie plus, comme il l'a souvent fait, l'expression «propositions négatives». La nouvelle formulation question(s) négative(s) n'est pas très correcte, une question, formellement, est toujours une interrogation. La formulation de tout le paragraphe, et à la fin l'allusion aux nombres premiers qui ne peuvent être divisés par aucun autre nombre, lui permettent d'introduire le terme «négative». Fermat, philologue, l'utilise dans une lettre testament. Insinue-t-il qu'à la question la réponse est négative ?
  • Si l'on fait confiance à Fermat cette proposition peut avoir un double sens, a) elle nécessite effectivement une recherche très ingénieuse ; b) elle peut être formulée d'une manière différente : « La question de savoir si cette dernière proposition est vraie ou fausse est d'une très subtile et très ingénieuse recherche [...] »
  • Comme nous l'avons vu elle est absente de ses observations retranscrites par son fils sur l'Arithmetica de 1670, toutes prouvées exactes par la suite.
  • L'agencement de formulations singulières dans l'entièreté du paragraphe est d'une habileté diabolique.
  • Concernant les 3 premières ‘’questions‘’, il a montré que ces propositions étaient vraies. Ses détracteurs les plus obstinés seront donc enclins à croire que Fermat a cru avoir montré que la dernière l'était aussi.
  • Notons que la lettre à Mersenne de juin (?) 1640 (voir infra) où Fermat utilise une méthode similaire, avec les diviseurs de la forme 74k+1, son fils l’omet elle aussi des Varia. Ce sont donc 6 lettres importantes en rapport avec la fausse conjecture qui sont absentes.
  • Ces lettres nous semblent être, et ce dès la première, un énorme coup de bluff. Non seulement Fermat veut nous montrer à quel point il aurait souhaité trouver un partenaire qui l'accompagne, le suive, dans ses recherches arithmétiques (y croyait-il vraiment ?), mais ces 6 lettres ont une autre utilité, elles ‘’préparent le terrain’’ en donnant au lecteur naïf l’impression que Fermat, finalement, n'est pas un mathématicien sérieux. Dans la dernière lettre, alors qu’il a certainement de gros doutes quant à une réponse de Huygens, il laisse à la postérité un premier message mémorable qui se veut ambigu et fera effectivement beaucoup jaser. Il n'a cessé de jouer pour nous enseigner et nous gronder à la fois. Le jeu a commencé dès 1640 et ne cessera de s’intensifier. Le point culminant est bien sûr la fameuse “observation”, qu’il se garde de publier de son vivant. Un clin d’œil magnifique, venu 30 ans plus tard de l’au-delà grâce à Samuel pour d’éventuels suiveurs attentionnés.
  • La phrase de Fermat : « Cette dernière question est d’une très subtile et très ingénieuse recherche […] », est admirable pour l'observateur confiant, cette question qu'il nous pose, dans son contexte et avec une formulation aussi particulière, est d’une très subtile et très ingénieuse recherche. Il en majore l’intelligence en ajoutant sans raison apparente à l'adjectif «subtile» son synonyme «ingénieuse». S'il veut ainsi mettre encore plus l'accent sur quelque chose d'important qu'il ne fait pourtant qu'insinuer à l'intention de ses suiveurs, alors la recherche qu'il évoque c'est, aussinotre recherche de subtilités dans ce qu'il écrit. À nous donc, comme il l'a fait lui-même, de faire preuve de finesse, de créativité en « considérant sa question ».
Je crois même que l'apparition soudaine d’un tel sentiment [d’évidence] est plus ou moins commune à tout travail de découverte, aux moments où celui-ci soudain débouche sur une compréhension nouvelle, grande ou petite. J’en ai fait l’expérience encore et encore tout au long de ma vie de mathématicien. Et ce sont les choses les plus cruciales, les plus fondamentales, au moment où elles sont enfin saisies, qui sont celles qui frappent le plus par leur caractère d’évidence ; celles dont on se dit après coup qu’elles “crevaient les yeux” – au point qu’on se trouve stupéfait que soi-même ni personne n’y ait songé avant et depuis longtemps. Ce même étonnement, je l’ai rencontré à nouveau, et tout autant, dans le travail de méditation – ce travail à la découverte de soi-même qui est venu, peu à peu, à se confondre quasiment avec le travail sur mes rêves. [...] Les gens ont tendance à ne pas y faire attention, à ce sentiment d’évidence qui accompagne si souvent l’acte de création et l’apparition de ce qui est nouveau. Souvent même on refoule la connaissance de ce qui peut sembler, en termes des idées reçues, un étrange paradoxe. » Alexandre GROTHENDIECKLa Clef des songes, p 24.
 Parfois, commentant sur quelques impressions souvent confuses, au sujet peut-être de tel et tel passage particulièrement obscur et déroutant, j’arrivais au fil de la plume à pénétrer plus avant dans le sens d’un texte qui avait semblé hermétique. […] Au fil des jours et des semaines, je me suis aperçu que le simple fait de recopier in extenso tel passage du texte que je scrutais, modifiait de façon surprenante ma relation à ce passage, dans le sens d’une ouverture à une compréhension de son sens véritable. » Alexandre GROTHENDIECK, Récoltes et semailles, p. 428.

Pour Fermat la géométrie et l'arithmétique sont à la fois une passion, un travail, et un jeu  (rappelons qu'il s'est plu à travailler sur les carrés magiques). Il utilise beaucoup le latin, dont la rigueur et la concision correspondent parfaitement aux exigences des mathématiques. Or déroger aux règles précises de cette langue permet de jouer avec les mots, l'usage de « l’ellipse énigmatique ou du cryptage » (Ludivine Goupillaud) en est l'exemple le plus remarquable. Dans cette lettre bilan il opère une translation du latin vers le français et pour la première et unique fois il utilise le procédé du cryptage dans un texte sibyllin écrit en français. Si on veut lire entre les lignes : « Pour comprendre les tenants et aboutissants de cette lettre testament il ne vous suffira pas d’en faire la lecture objective, vous devrez aussi la soumettre à une analyse rigoureuse car elle est le fruit d’une très ingénieuse recherche. À votre tour vous devrez vous astreindre à une très subtile recherche. »

Ses détracteurs en déformant son propos douteront toujours de ses compétences et feront de cette lettre un argument majeur pour prétendre qu'il avait présenté son plus grand théorème comme vrai sans en avoir jamais trouvé la preuve, même (surtout) avec ses propres outils. La plupart auront aussi recours à des arguments bancals, paralogismes et sophismes. Ses partisans se réjouiront en découvrant les subtilités de cette lettre testament, qui si elles ne sont pas aussi déterminantes que le cryptage de sa plus célèbre observation (voir infra) sont elles aussi sublimes.

Quand Samuel publie les Varia opera après la mort de son père, comme il l'a fait pour les Observations, mais cette fois-ci 9 ans plus tard, il n'y insère qu'une lettre évoquant cette fausse conjecture, celle adressée à Monsieur de ****. On est quasiment assuré qu’il s’agit encore de Frénicle de Bessy.:

6) 18 octobre 1640 : « Mais je vous avoue tout net (car par avance je vous avertis que, comme je ne suis pas capable de m'attribuer plus que je ne sais, je dis avec la même franchise ce que je ne sais pas) que je n'ai pu encore démontrer l’exclusion de tous diviseurs en cette belle proposition que je vous avais envoyée et que vous m’avez confirmée, touchant les nombres 3, 5, 17, 257, 65537, etc. Car, bien que je réduise l’exclusion à la plupart des nombres et que j’aie même des raisons probables pour le reste, je n’ai pu encore démontrer nécessairement la vérité de cette proposition, de laquelle pourtant je ne doute non plus à cette heure que je le faisais auparavant. Si vous en avez la preuve assurée, vous m’obligerez de me la communiquer ; car, après cela, rien ne m’arrêtera en ces matières. » Cette affirmation n'est-elle pas là surtout pour aiguiser la curiosité de Frénicle et le stimuler? Tant il est vrai que si ce dernier avait pu trouver le contre-exemple F5, Fermat aurait trouvé le partenaire idéal, leurs échanges futurs auraient pu faire l'objet de joutes et d'échanges qui auraient considérablement enrichi l'historiographie. S'il ne parle plus de ‘’démonstrations infaillibles‘’, il n'y va pas de main morte. Deux mois seulement après sa première lettre à Frénicle, il semble vouloir un peu le rassurer sur la difficulté de la proposition.

Samuel de Fermat a donc omis, en particulier dans les Varia, toutes les formulations sur cette conjecture (dont celle qui a soulevé la controverse) sauf celle avec une formulation claire, ne prêtant pas à confusion, et dans un document officiel, puisque c'est un ouvrage publié où figurent ces mots de son père : « [...] car par avance je vous avertis que, comme je ne suis pas capable de m'attribuer plus que je ne sais, je dis avec la même franchise ce que je ne sais pas [Ndlr : il ne sait pas montrer que cette proposition est vraie, puisqu'il sait qu'elle est fausse – ce n'est même pas un mensonge.] ».

Le choix de Samuel précisément pour cette lettre où son père dit être toujours honnête, à n'en pas douter veut nous faire comprendre qu'il faudra prendre au sérieux l'observation de Fermat sur son grand théorème. Ses commentateurs ne se sont pas interrogés sur la raison de ce choix, au contraire à chaque occasion qu'ils ne l'ont pas compris ils sont montés sur leurs ergots. On pardonnera facilement à une basse-cour trop excitée – la ponte fut en rapport – pour réfléchir sereinement. Les optimistes, les personnes objectives et honnêtes, se diront que cet étroit labyrinthe où les balises ne cessent de se laisser découvrir en s'ajoutant les unes aux autres quand on avance dans un chemin hérissé de pièges pour nous guider vers le but de la randonnée, ne peut être le fruit du hasard. Nous sommes certain quant à nous que Pierre de Fermat, qui institua Clément-Samuel comme seul héritier en 1660, l'a très précisémen informé de ce qu'il aurait à faire pour parachever le grand œuvre de son père.

On peut lire dans l'ouvrage Fermat par Tannery, p.199 qu'il avait utilisé l'argument des nombres de la forme 74k+1 :

7) Lettre à Mersenne, Juin (?) 1640. « Au reste vous ou moi avons équivoqué de quelques caractères au nombre que j’avais cru parfait, ce que vous connaîtrez aisément, puisque je vous baillais 137 438 953 471Note 1 pour son radical, lequel j’ai depuis pourtant trouvé, par l’Abbregé tiré de la 3ème proposition, être divisible par 223 ; ce que j’ai connu à la seconde division que j’ai faite, car l’exposant dudit radical étant 37, duquel le double est 74, j’ai commencé mes divisions par 149, plus grand de l’unité que le double de 74 ; puis, continuant par 223, plus grand que l’unité que le triple de 74, j’ai trouvé que ledit radical est multiple de 223. De ces Abbregez j’en vois déjà naître un grand nombre d’autres, Et mi par di vedere un gran lumeNote 2. Je vous entretiendrai un jour de mon progrès, si M. Frénicle ne vient au secours et n’abbrege par ce moyen ma recherche des Abbregez. En tout cas je vous conjure de faire en sorte que Mr de Roberval joigne son travail au mien, puisque je me trouve pressé de beaucoup d’occupations qui ne me laissent que fort peu de temps à vaquer à ces choses. Je suis (etc.) »

Note 1. Nombre de Mersenne non premier M37.

Note 2. Traduction de l'occitan : « Et il me semble voir une grande lumière. »

Au vu de ces quelques lettres comme dans toute sa correspondance on remarque deux choses qu'on pourrait trouver contradictoires.

  • Fermat ne cesse de s'émerveiller (à juste titre) de ses plus belles trouvailles. Il vante tellement leur importance que certains de ses correspondants on fait de lui un vantard, étiquette qui lui est parfois restée.
  • Il n'a jamais recherché la gloire. Le seul ouvrage qu'il ait publié l'a été sous le pseudonyme M.P.E.A.S., dont on a longtemps ignoré la signification (voir infra).

Le premier point s'explique aisément, comme on le voit dans ses écrits, il souhaiterait que tous les savants collaborent entre eux, et s'attache lui-même à faire progresser la science. Il éprouve d'ailleurs une joie intense devant la magnificence de ses découvertes, sa motivation est extrême. Le deuxième point s'explique encore plus aisément :

  • C'est l'honnête homme par excellence, reconnu d'une grande modestie par ceux qui ont su l'apprécier. Descartes très jaloux, et quelques autres qui ne purent rivaliser étaient d'un avis opposé.
  • Eut-il recherché la gloire qu'elle aurait nui à sa tranquillité, l'époque est politiquement troublée, se mettre en avant aurait nui à sa carrière de magistrat où il est très occupé ; en outre le temps lui était précieux tant il avait une soif inextinguible d’admirables inventions (voir infra).

Une fois admise l'analyse ci-dessous exposée sur la question d'une fausse conjecture qui constitue l'argument principal des contempteurs (« il s'est déjà trompé une fois ») pour le discréditer perd tout son sens. Reste à étudier la problématique du théorème, en particulier par une analyse poussée de son observation.

Voir Partie 2/3  >>>