vignette|Cesare Burali-Forti. En mathématiques, le paradoxe de Burali-Forti, paru en 1897, désigne une construction qui conduit dans certaines théories des ensembles ou théories des types trop naïves à une antinomie, c’est-à-dire que la théorie est contradictoire (on dit aussi incohérente ou inconsistante). Dit brièvement, il énonce que, comme on peut définir la borne supérieure d'un ensemble d'ordinaux, si l'ensemble de tous les ordinaux existe, on peut définir un ordinal supérieur strictement à tous les ordinaux, d'où une contradiction.
L'argument utilise donc la notion d'ordinal, c’est-à-dire essentiellement celle de bon ordre : il est plus technique que le paradoxe de Russell, bien que son argument ne soit pas si éloigné de ce dernier qui est plus simple à comprendre et à formaliser. Cependant, le paradoxe de Burali-Forti est le premier des paradoxes de la théorie des ensembles à être publié, six ans avant le paradoxe de Russell, et Georg Cantor en fait état dans sa correspondance, ainsi que du paradoxe du plus grand cardinal (dit paradoxe de Cantor), dans les mêmes années. Par ailleurs, le paradoxe de Burali-Forti met directement en jeu la notion d'ordre, et non celle d'appartenance (même si aujourd'hui ces deux notions coïncident pour les ordinaux tels qu'ils sont définis en théorie des ensembles). Ainsi l'incohérence de certaines théories a été établie en dérivant directement le paradoxe de Burali-FortiSachant que si une contradiction est démontrable, tout est démontrable.. C'est ainsi que John Barkley Rosser a démontré en 1942 l'inconsistance d'une des premières versions des Une théorie des ensembles pour laquelle on ne sait, dans sa version corrigée, démontrer de relation de cohérence avec les théories usuelles comme ZFC. de Willard Van Orman Quine..
Énoncé du paradoxe Le paradoxe utilise la notion d'ordinal, une généralisation de la notion de nombre entier naturel, en tant qu'il représente un bon ordre. À tout bon ordre on associe un et un seul ordinal qui a la « même » structure d'ordreLa définition des ordinaux de von Neumann n'est pas connue à l'époque où Burali-Forti, et Cantor, puis Russell et bien d'autres se sont tout d'abord intéressés à ce paradoxe.. Les entiers sont les ordinaux finis. L'ensemble des entiers naturels est bien ordonné, et son ordinal est noté usuellement . La notion de nombre ordinal diffère de celle de nombre cardinal dès que l'on passe à l'infini (des ordinaux infinis distincts peuvent avoir même cardinal).
Pour des raisons qui tiennent à la notion même d'ordinal, on sait qu'un ensemble d'ordinaux est lui-même bien ordonné de façon naturelle. Si on admet que l'ensemble de tous les ordinaux existe, on montre qu'à cause de propriétés de clôture que vérifierait forcément un tel ensemble, l'ordinal correspondant à ce bon ordre serait strictement supérieur à celui de chacun de ses éléments. On est donc face à une contradiction : l'ordinal associé doit être strictement supérieur à lui-même.
Les raisons du paradoxe Pour en dire plus, on est obligé d'être un peu plus précis sur les propriétés des bons ordres et des ordinaux. Tout d'abord on peut définir une notion d'isomorphisme d'ordre. Deux ensembles bien ordonnés et sont isomorphes s'il existe une bijection de dans qui transporte la structure d'ordre, c’est-à-dire une bijection croissante de dans :
Un ordinal est, si l'on veut, un bon ordre « à isomorphisme près » ; on parle parfois de type d'ordre. Sans entrer dans des détails formels, les ordinaux doivent être définis de façon que pour tout bon ordre, il existe un et un seul ordinal isomorphe à ce bon ordre.
Une notion utile sur les bons ordres, qui permet de les comparer, est celle de section commençante ou segment initial. On appelle section commençante ou segment initial d'un ensemble ordonné (on choisit l'ordre strict) un sous-ensemble de qui, s'il contient un élément de , contient tous les éléments plus petits :
Une section commençante propre de est une section commençante non vide et différente de l'ensemble . Une section commençante non vide d'un ensemble bien ordonné est bien ordonnée par l'ordre restreint à celle-ci. Pour comparer deux bons ordres, on pourra dire qu'un ensemble bien ordonné est strictement inférieur à un ensemble bien ordonné quand est isomorphe à une section commençante propre de . Cette relation est un ordre strict, elle est transitive, par composition des deux morphismes en jeu, et irréflexive. Proposition (irréflexivité). Un ensemble bien ordonné ne peut être isomorphe à une de ses sections commençantes propres. Cette proposition se démontre par induction sur le bon ordre en jeu (c’est-à-dire essentiellement en utilisant la définition même de bon ordre).
Une propriété essentielle, due à Cantor, est celle de trichotomie. Elle énonce que si l'on restreint l'ordre strict précédent aux ordinaux, il définit un ordre total (ou qu'il définit un ordre total sur les bons ordres à isomorphisme près, ce qui revient au même). Proposition (trichotomie). Étant donnés deux ensembles bien ordonnés et , soit est isomorphe à une section commençante propre de , soit est isomorphe à , soit est isomorphe à une section commençante propre de . et ces trois cas sont exclusifs. Cette propriété se démontre en utilisant le principe de définition par induction sur un bon ordre.
On a donc montré comment définir un ordre total sur un ensemble d'ordinaux : un ordinal est strictement inférieur à un ordinal s'il est isomorphe à une section commençante propre de . Mais cet ordre est également un bon ordre. En effet, soit un ensemble non vide d'ordinaux et un élément de . On montre que l'ensemble des ordinaux de inférieurs ou égal à est, à isomorphisme près, inclus dans donc a un plus petit élément qui est le plus petit élément de . Proposition (plus petit élément). Tout ensemble d'ordinaux non vide a un plus petit élément. Un ensemble d'ordinaux est donc naturellement bien ordonné : tous ses sous-ensembles non vides ont bien un plus petit élément. On peut dériver le paradoxe de Burali-Forti, restreint à cet ensemble, en lui demandant de vérifier ces deux propriétés de clôture (la première suffirait en fait) : Un ensemble d'ordinaux est clos par le bas si, quand il contient un ordinal, il contient tous les ordinaux qui lui sont inférieurs (c'est une autre façon de parler de section commençante). Un ensemble d'ordinaux est clos par successeur s'il contient le successeur de chacun de ses éléments. Un successeur d'un bon ordre est un bon ordre obtenu en ajoutant « au bout » de un nouvel élément, soit , c’est-à-dire que tout élément de est strictement inférieur à . Il est par définition strictement supérieur au bon ordre . Tous les bons ordres successeurs de sont bien sûr isomorphes, et on peut donc définir le successeur d'un ordinal.
La première propriété assure que le bon ordre obtenu sur l'ensemble d'ordinaux est supérieur ou égal à tous ses éléments, la seconde que, s'il vérifie aussi la première, il leur est strictement supérieur, puisqu'il est supérieur au successeur de chacun de ses éléments.
L'ensemble de tous les ordinaux vérifierait forcément ces deux propriétés de clôture, donc ne peut exister sous peine de paradoxe. Or la propriété « être un ordinal », doit pouvoir se définir formellement. Une utilisation non restreinte du schéma d'axiomes de compréhension conduit donc à une contradiction.
Solution dans la théorie des ensembles de Zermelo-Fraenkel Tout comme pour le paradoxe de Russell, dont il a d'ailleurs d'une certaine façon la structure logique (il s'agit d'un raisonnement diagonal), le paradoxe de Burali-Forti se résout en restreignant le schéma d'axiomes de compréhension. Si l'on suit la définition naturelle d'ordinal, on le définirait comme une classe d'isomorphie de bons ordres pour l'isomorphisme d'ordre décrit au paragraphe précédent. Mais, à cause de la restriction du schéma de compréhension, une classe d'isomorphie n'est pas un ensemble. La classe d'isomorphie de l'ordre à un élément regroupe déjà tous les singletons (muni de la relation vide comme ordre strict). Par axiome de la réunion, on aurait l'ensemble de tous les ensembles, donc le paradoxe de Russell par le schéma de compréhension.
Cependant, il est possible de construire de façon uniforme un représentant par classe d'isomorphie : ce sont les ordinaux de von Neumann. On peut alors définir dans le langage de la théorie des ensembles la propriété « être un ordinal » (un ordinal de von Neumann est un ensemble transitif bien ordonné par l'appartenance). On peut donc parler de la classe des ordinaux. Il n'y a plus de contradiction, le paradoxe de Burali-Forti se traduit en : la classe des ordinaux est une classe propre.
Aspects historiques Le paradoxe de Burali-Forti a été publié pour la première fois dans un article de cet auteur de 1897, mais sous une forme différente de celle décrite ci-dessus. Tout laisse penser cependant que Cantor connaissait ce paradoxe à une date antérieure. La date de 1895 ou une lettre à David Hilbert de 1896 sont souvent citées en référence. Il semble que ce soit Philip Jourdain qui les ait le premier avancéesDans « », Philos. Mag., vol. 60, 1904.. On cite souvent un article Felix Bernstein, « », 60, 1905. paru en 1905 de Felix Bernstein, qui était étudiant de Cantor, mais celui-ci se réfère à Jourdain. Par exemple Jean Cavaillès citePhilosophie mathématique. Bernstein. Même si ces dates sont vraisemblables, aucune lettre de 1896 n'a été retrouvéeSelon certains historiens, Jourdain, qui se fonde sur une lettre que lui a envoyée Cantor, aurait pu prendre ses indications de façon trop précise, et la lettre en question pourrait être celle de 1897, qui ne donne pas exactement un exposé du paradoxe de Burali-Forti, voir Meschkowski et Nilson, , p. 389.. Dans une lettre à Hilbert de 1897Voir référence, , pp. 388-389., Cantor donne son explication du paradoxe du plus grand cardinal, mais en faisant référence à la série des aleph, indexés par les ordinaux. On peut donc penser qu'il connait aussi le paradoxe de Burali-Forti, d'autant que la lettre témoigne de l'état avancé de sa réflexion à ce sujet. Quoi qu'il en soit, à la fin des années 1890, à Göttingen, le paradoxe de Burali-Forti, et l'analyse qu'en fait Cantor sont connus de Hilbert et son entourage, dont Zermelo. Burali-Forti