Débat : le rôle des catégories dans les mathématiques
Prise de vue, mise en page et en ligne : S. Dugowson
Proposée, introduite et présidée par Anatole Khélif, co-présidée par Jean-Pierre Laffineur, cette séance exceptionnelle du séminaire CLE consacrée à un débat sur le rôle des catégories en mathématiques s'est déroulée le 17 décembre 2014 en salle 2014 du bâtiment Sophie Germain (Paris Diderot).
Déroulement de la séance
Dans un premier temps, un débat (parfois un peu houleux) a opposé notre ami le grand catégoricien Jean Bénabou à un autre de nos amis, Saab Abou-Jaoudé qui, bien que participant actif et régulier du séminaire CLE, s'affirme volontiers sceptique sur les catégories. Assumant, comme il l'a dit, ne pas connaître la théorie des catégories "plus que cela", Abou a donc accepté de jouer dans ce débat le rôle du candide.
Dans un second temps, chacun a pu participer au débat, et l'on a ainsi pu entendre : Pierre Schapira, Pierre Cartier, Marc Lachièze-Rey, Anatole Khélif, Dimitri Scarpalezos, René Cori, Gerard Grimberg et Stéphane Dugowson.
Cette séance a fait l'objet de deux prises de vue, l'une par Laurence Honnorat, l'autre par votre serviteur. Le film réalisé par Laurence Honnorat peut être notamment visionné au bas de la présente page. Quant à celui que j'ai tourné, il est comme à mon habitude constitué d'un nombre important de séquences incorporées tout au long de la présente page avec une structure de titres et sous-titres vers lesquels pointe plusieurs tables des matières plus ou moins détaillées.
En l’occurrence, j'ai structuré la présente page web en distinguant d'abord comme première partie 1 le débat entre Bénabou et Abou, et en essayant pour les parties suivantes de mettre en évidence les thèmes les plus importants abordés au cours des diverses interventions, malgré la dispersion et les retours qui les caractérisent inévitablement. La table des matières, dont une version détaillée est donnée en bas de page, met ainsi en exergue notamment les points suivants : relations des catégories avec les ensembles, la physique, la logique, l'informatique, la linguistique, la place à accorder aux catégories dans l'enseignement, le rôle des catégories dans le progrès des sciences et l'organisation des connaissances, etc... Tout au long de ces discussions, certaines notions ou certaines théories particulières seront évoquées : adjonction, dualité, topos, analyse non standard, etc...
S. Dugowson
***
Première partie
Le débat entre Jean Bénabou et Saab Abou-Jaoudé
Saab Abou-Jaoudé (1)
Ensembles ou catégories ? prospérité de tels "univers"
Un langage gigantesque
Les catégories ont-elles une incidence sur le reste des mathématiques ?
Après une présentation rapide des deux "univers" que constituent d'une part les ensembles, d'autre part les catégories, Abou exprime son ressenti à l'égard du langage catégorique, jugé complexe à intégrer, et précise qu'il ne demande qu'à être convaincu que les catégories auraient la moindre incidence sur le reste des mathématiques
Jean Bénabou (1)
[Sur la théorie des ensembles]
Ensembles naïfs versus théorie axiomatique des ensembles
Schéma d'axiomes
Produit de deux ensembles construit sur... l'ensemble des parties de l'ensemble des parties de l'union de deux ensembles !
[Sur la théorie des catégories]
Elles permettent de trouver des modèles qui seraient contradictoires dans le cadre des ensembles.
Exemple 1 : Théorie de la géométrie différentielle synthétique
Exemple 2 : avec l'analyse non standard, deux (voire trois) sortes d'ensembles
Topos comme généralisations de la catégorie des ensembles, permettant d'avoir plusieurs sortes d'ensembles
Exploitation des analogies. Exemples : les catégories abéliennes; langage interne d'un topos; topos comme généralisation des espaces topologiques.
Saab Abou-Jaoudé (2)
Limitations et intérêts de la théorie des ensembles
Les ensembles permettent d'exprimer les mathématiques de façon unifiée.
Reformulation de la question initiale : quel est l'intérêt de la théorie des catégories pour les "mathématiques courantes" ?
Jean Bénabou (2)
Aujourd'hui, la théorie des catégories est une théorie finitaire du premier ordre, contrairement à la théorie des ensembles
Grâce à quoi on peut d'ailleurs considérer les catégories internes à un topos
Le fait que les objets dans un topos aient moins de propriétés que les ensembles peut être un avantage
On peut par exemple avoir dans un topos des groupes bizaroïdes qu'on ne peut pas avoir dans les ensembles.
Saab Abou-Jaoudé (3)
Sur quoi portent donc les opérations qui définissent axiomatiquement les catégories ?
Jean Bénabou (3)
Les modèles d'une théorie ne sont pas nécessairement ensemblistes
Exemple : les axiomes de groupes
Saab Abou-Jaoudé (4)
Abou trouve l'exemple donné (axiomes de groupes) plus compliqué que la définition ensembliste
Jean Bénabou (4)
Jean souligne que les mêmes axiomes vont se décliner ensuite en groupes topologiques, groupes différentiels, etc...
Deuxième partie
ouverture du débat à tous les participants
Les catégories et les ensembles
Pierre Schapira : les catégories sont une notion ensembliste, et c'est un formidable outil de compréhension
Les catégories, notion ensembliste
Les catégories sont un outil formidable de compréhension unifiée
Bénabou répond à Schapira
Les catégories utilisent très peu les ensembles
Si la théorie des ensembles devait être prouvée contradictoire, les mathématiques ne s'effondreraient pas
Abou se fait à nouveau l'avocat de la théorie des ensembles, rappelant quelques aspects historiques
Les ensembles constituent une théorie "prospère" : ne pas jeter le bébé avec l'eau du bain
Pierre Cartier : la pratique mathématique fait apparaître de nombreuses catégories non ensemblistes
Exemple : catégories de foncteurs, catégorie des catégories, etc...
Jean Bénabou mentionne d'autres exemples courants : catégorie des fractions, catégorie homotopique, etc...
Physique et catégories
Marc Lachièze Rey : physique quantique et changement de topos
Abou se dit convaincu par les arguments de Marc Lachièze-Rey en faveur des catégories
Anatole Khélif voit dans les catégories, en particulier les topos, un fondement pour de nouvelles géométries pour la physique
Catégories, logique et informatique
Anatole Khélif parle en outre des relations entre catégories et informatique, et mentionne la théorie des degrés ludiques
Référence : le cours d'Alain Prouté.
Degrés ludiques de Christophe Chalons
Saab Abou-Jaoudé oppose la théorie des degrés ludiques à la théorie des catégories
Degrés ludiques versus catégories ?
Le rôle conceptuel des catégories : exemple de l'adjonction
Jean Bénabou illustre l'importance du concept catégorique d'adjonction avec deux exemples
Récit de la recherche de bonnes topologies sur les espaces fonctionnels : il n'y a pas d'adjoint à droite du produit cartésien des espaces topologiques, puisqu'il ne préserve pas les limites inductives.
Un théorème de Samuel (dans la théorie des ensembles de Bourbaki) sur l'existence de solution de problèmes universels... dont on ne peut rien faire en l'absence de la notion d'adjoint
Abou, qui assume son rôle de Candide, se dit à nouveau convaincu par ce dernier argument en faveur des catégories
Retour les relations entre théorie des ensembles et théorie des catégories
Dimitri Scarpalezos remarque que le pouvoir démonstratif n'est pas tout : il y a aussi le pouvoir créatif d'un théorie, et de ce point de vue la théorie des catégories est bien supérieure à la théorie des ensembles.
René Cori fait la part des choses, soulignant l'utilité avérée des catégories tout en remarquant que la théorie des ensembles continue à fonctionner.
L'utilité avérée des catégories
La théorie des ensembles continue à fonctionner.
L'analyse non standard fonctionne très bien dans le cadre de la théorie des ensembles.
Difficulté avec le produit cartésien.
Enseigner les catégories
René Cori se demande s'il est possible d'enseigner simplement les rudiments de la théorie des catégories, puis dresse un constat malheureusement irréfutable de la situation de l'enseignement des mathématiques.
Gerard Grimberg remet en question notre formation bourbakiste et aborde le thème "catégories et pédagogie".
Quelques exemples significatifs
Analyse non standard
Dualité
Jean Bénabou revient sur ces deux thèmes déjà évoqués précédemment
Notion d'isomorphisme
Pierre Schapira
L'exemple de l'espace non-commutatif d'Alain Connes des points du topos des préfaisceaux sur le monoïde des entiers multiplicatifs
Stéphane Dugowson
Le rôle des catégories dans le progrès des sciences et l'organisation des connaissances
Pierre Cartier donne l'exemple historique du renversement des flèches entre homologie et cohomologie
Dualité des espaces vectoriels et transformations naturelles
Sans être un fanatique des catégories, Pierre Cartier témoigne de ce qu'elles sont constamment présentes dans son travail
Retour sur l'enseignement
Jean Bénabou demande qu'on n'enseigne pas du vent, qu'il soit ensembliste ou catégorique
Réné Cori conteste que l'enseignement d'un langage soit du vent
Stéphane Dugowson insiste sur l'importance d'enseigner tôt certains rudiments de langage structurants, à distinguer de l'enseignement de théories axiomatiques
Jean Bénabou conclut le débat en évoquant son travail sur la logique du très, du presque, du peu, du beaucoup... dans les langues naturelles
J. Benabou & B. Loiseau, Orbits and monoids in a topos, Journal of Pure and Applied Algebra - 01/1994; 92(1):29-54.
[Sur ce sujet, voir ici l'intervention de J. Bénabou au séminaire Mamhuphi du 4 avril 2015]
************
Le film réalisé par Laurence Honnorat (Innovaxiom)
(durée : 1h05')
****