Si un ensemble est défini avec une formule bien définie dont les variables libres ou liées sont toutes bornées à des ensembles déjà bien définis alors il est bien défini.
(Dans une formule, une variable liée x est liée à un quantificateur tel que "pour tout x" ou "il existe au moins un x". Une variable est libre lorsqu'elle n'est pas liée.)
Un ensemble n'est pas bien défini s'il est défini à partir d'ensembles qui ne sont pas eux-même bien définis. La vérité d'une formule de la théorie des ensembles qui contient une ou plusieurs variables sans bornes dépend du domaine de tous les ensembles, mais ce domaine n'est pas un ensemble bien défini et ne peut pas l'être. Il semble donc qu'il faille borner les variables dans la définition des ensembles pour qu'ils soient bien définis.
L'axiome de la compréhension sans restriction (Frege 1893) ne respecte pas cette obligation : pour toute formule bien définie à une variable libre F(x) il existe un ensemble de tous les x tels qu'il est vrai que F(x). La variable libre x n'est pas bornée. Russell a montré que cet axiome conduit à une contradiction pour la formule bien définie "x n'est pas élément de x", parce que l'ensemble de tous les ensembles qui ne sont pas éléments d'eux-mêmes devrait être élément de lui-même et ne pas l'être (le paradoxe de Russell 1905).
L'axiome de séparation de Zermelo (1908) qu'on peut aussi appeler l'axiome de la compréhension restreinte, respecte l'obligation de borner les variables pour la variable libre : pour toute formule bien définie à une variable libre F(x) et tout ensemble E déjà bien défini, il existe un ensemble de tous les éléments x de E tels qu'il est vrai que F(x). La variable libre x est bornée par E. Mais Zermelo n'a pas précisé ce qu'est une formule bien définie, il n'a donc rien dit sur les variables liées sans bornes dans ces formules.
L'axiome de séparation formulé par Fraenkel (1922) ne respecte pas l'obligation de borner les variables pour les variables liées : pour toute formule à une variable libre F(x) de la logique du premier ordre appliquée à la théorie des ensembles et tout ensemble E, il existe un ensemble de tous les x éléments de E tels qu'il est vrai que F(x). Les formules de la logique du premier ordre peuvent contenir des variables liées sans bornes. Si on veut être sûr qu'un ensemble dont on prouve l'existence avec l'axiome de séparation est bien défini, il vaut mieux se passer des variables liées sans bornes dans la formule qui sert à le définir.
L'axiome de la somme (Zermelo 1908) respecte l'obligation de borner les variables, ou presque : pour tout ensemble E, l'ensemble de tous les éléments des éléments de E existe. Pour tout ensemble E, l'ensemble de tous les x tels que x est élément de y pour au moins un y dans E existe. Dans "x est élément de y pour au moins un y dans E", la variable liée y est bornée par E, la variable libre x est bornée par y qui n'est pas un ensemble déjà défini mais qui est bornée par un ensemble déjà défini.
L'axiome de la paire ne respecte pas l'obligation de borner les variables : pour tous les ensembles x et y, il existe un ensemble de tous les z tels que z=x ou z=y. La variable libre z dans "z=x ou z=y" n'est pas bornée. Mais dans ce cas, il serait insensé d'exiger qu'elle le soit, parce que la paire {x,y} est évidemment bien définie si x et y sont tous les deux bien définis.
L'axiome de l'ensemble des parties ne respecte pas l'obligation de borner les variables : pour tout ensemble bien défini E, l'ensemble de ses parties existe. Pour tout ensemble E, il existe l'ensemble de tous les ensembles x tels que pour tout y, si y est élément de x alors y est élément de E. Ni la variable libre x ni la variable liée y dans la formule "pour tout y, si y est élément de x alors y est élément de E" ne sont bornées par des ensembles déjà définis, y est seulement bornée par x. Mais dans ce cas, il serait insensé d'imposer l'obligation de borner les variables, parce que l'ensemble des parties d'un ensemble bien défini est toujours bien défini.
L'axiome de remplacement de Fraenkel (1922) ne respecte pas l'obligation de borner les variables : pour toute relation fonctionnelle R(x,y) et tout ensemble E il existe un ensemble de tous les y tels que R(x,y) pour au moins un x dans E. On obtient un ensemble en remplaçant tous les éléments x de E par leur compagnon y dans la relation R. Dans "R(x,y) pour au moins un x dans E" la variable liée x est bornée par E. La variable libre y n'est pas bornée par un ensemble déjà défini, mais ce n'est pas un problème, parce qu'elle est implicitement bornée par l'ensemble de tous les ensembles déjà définis quand l'ensemble E et la relation R sont déjà définis. En revanche la relation fonctionnelle R(x,y) pose un problème, parce qu'elle peut être définie avec une formule qui contient des variables liées sans bornes. Si on veut être sûr que les ensembles dont on prouve l'existence avec l'axiome de remplacement sont bien définis, il faut s'assurer au préalable que la relation fonctionnelle utilisée est bien définie.
Pour fonder la théorie des ensembles, on se donne au départ deux ensembles fondamentaux, l'ensemble vide et l'ensemble des nombres naturels. L'axiome de l'ensemble vide affirme l'existence du premier : il existe un ensemble x tel que pour tout y, y n'est pas élément de x. On prouve que cet ensemble est unique avec l'axiome d'extensionalité : si x et y sont des ensembles qui ont les mêmes éléments alors ils sont le même ensemble. Pour tous les ensembles x et y, x=y si pour tout z, z est élément de x si et seulement si z est élément de y.
On peut définir les nombres naturels en identifiant 0 à l'ensemble vide { }, et n+1 à {0, ... n} pour tout nombre naturel n. C'est la convention de von Neumann. Avec cette convention un nombre naturel n est toujours identifié à un ensemble qui contient n éléments. 1={0}, 2={0,1}, 3={0,1,2}... n+1 est la réunion (la somme de la paire) de n et {n}. Pour prouver l'existence de l'ensemble de tous les nombres naturels, on peut se servir d'un axiome de l'infini. Par exemple : il existe un ensemble qui contient l'ensemble vide et qui contient toujours les sommes et les paires de ses éléments. Il existe un ensemble x tel que { } est élément de x et pour tous les y et z, si y et z sont éléments de x alors la somme de y et la paire {y,z} sont aussi éléments de x. On peut aussi postuler directement que l'ensemble des nombres naturels existe. C'est le plus petit ensemble qui contient 0 et qui contient toujours n+1 s'il contient n. Une formulation précise de l'axiome d'existence de l'ensemble des nombres naturels est donnée en complément ci-dessous.
On définit les autres ensembles à partir des deux ensembles fondamentaux avec les axiomes de la paire, de la somme, de l'ensemble des parties, de séparation et de remplacement. On postule que l'ensemble vide et l'ensemble des nombres naturels sont bien définis. On postule également que la paire, la somme et l'ensemble des parties d'ensembles bien définis sont bien définis. A partir de là on peut définir de nouveaux ensembles avec lesquels on peut borner les variables dans l'axiome de séparation. On postule qu'un ensemble est bien défini si on peut prouver son existence avec l'axiome de séparation, et une formule de la logique du premier ordre appliquée à la théorie des ensembles, dont les variables libres ou liées sont bornées à des ensembles déjà bien définis. On postule également qu'un ensemble est bien défini si on peut prouver son existence avec l'axiome de remplacement, pourvu qu'il soit appliqué à une relation fonctionnelle bien définie. En procédant ainsi on obtient une théorie des ensembles dont tous les ensembles sont bien définis.
Remarque : les mathématiciens ne savent pas toujours qu'on peut se passer des quantificateurs non-bornés dans les définitions des ensembles, parce qu'ils s'en servent souvent sans se rendre compte qu'ils ne sont pas nécessaires. Les quantificateurs non-bornés peuvent toujours être remplacés par des quantificateurs bornés par des ensembles assez grands, dont on prouve l'existence avec l'axiome de l'infini et l'axiome de l'ensemble des parties.
Compléments :
L'axiome d'existence de l'ensemble N des nombres naturels
Il existe un ensemble N qui contient 0, qui contient toujours n+1 s'il contient n, et qui est inclus dans tous les ensembles qui contiennent 0 et qui contiennent toujours n+1 s'ils contiennent n.
(0 est l'ensemble vide { }, n+1 est la réunion de n et {n})
Autrement dit :
Il existe un ensemble N tel que 0 est élément de N, pour tout x, si x est élément de N, alors x+1 est élément de N, et pour tout y, si (0 est élément de y et pour tout z, si z est élément de y alors z+1 est élément de y) alors pour tout w, si w est élément de N alors w est élément de y.
On peut prouver avec l'axiome d'extensionalité que cet ensemble N est unique s'il existe. On peut prouver qu'il existe tre remplacés par des quantificateurs à partir d'un axiome de l'infini et de l'axiome de séparation, en bornant toutes les variables à l'ensemble infini postulé au départ ou à l'ensemble de ses parties.
La vérité sur les ensembles
La vérité d'une théorie mathématique est en général définie par rapport à un modèle de la théorie, ou à une classe de modèles. Les théorèmes sont vrais parce qu'ils sont vrais des modèles. Pour prouver la vérité des théorèmes, il suffit de prouver la vérité des axiomes pour les modèles, parce que les conséquences logiques d'axiomes vrais sont nécessairement vraies elles aussi. Dans ce cas, les modèles, pas les axiomes, sont notre critère ultime de vérité. Mais cette conclusion ne vaut pas pour les théories mathématiques les plus fondamentales. Les axiomes des théories des ensembles sont notre critère ultime de vérité, pas les modèles.
Un modèle d'une théorie des ensembles est défini avec un domaine de tous les ensembles dont la théorie reconnait l'existence. Si le modèle est bien défini, son domaine d'ensembles est un ensemble bien défini. Mais le domaine de tous les ensembles ne peut pas être lui-même un ensemble bien défini, parce que pour n'importe quel ensemble bien défini, on peut toujours définir un ensemble plus grand. Le domaine d'ensembles avec lequel on définit un modèle ne peut donc jamais être le domaine de tous les ensembles, il ne peut donc pas servir de critère de vérité pour tous les théorèmes. Certaines formules sur les ensembles peuvent être vraies pour certains modèles et fausses pour d'autres.
Les modèles des théories des ensembles ne sont pas leur critère de vérité. Mais alors quel est le critère ? Pourquoi dire d'une théorie des ensembles qu'elle est vraie ? On reconnait la vérité sur les ensembles en reconnaissant directement la vérité des axiomes, sans avoir à établir qu'ils sont vrais pour un ou plusieurs modèles. On reconnait la vérité de l'axiome d'extensionalité dès qu'on comprend le concept d'ensemble : des ensembles sont égaux s'ils ont exactement les mêmes éléments. On reconnait la vérité des axiomes d'existence d'ensembles dès qu'on comprend que les ensembles dont on affirme l'existence sont bien définis. La correction de nos définitions quand nous définissons des ensembles est donc le critère ultime de la vérité mathématique.
Fraenkel, Abraham, Abstract set theory (1953)