En mathématiques, et plus précisément en théorie des groupes, le groupe alterné de degré n, souvent noté An, est un sous-groupe distingué du groupe symétrique des permutations d'un ensemble fini à n éléments. Ce sous-groupe est constitué des permutations produits d'un nombre pair de transpositions. Une transposition est une permutation qui échange deux éléments et fixe tous les autres.

Il existe un groupe alterné pour chaque entier n supérieur ou égal à 2 ; il se note habituellement An (ou parfois en écriture Fraktur) et possède n!/2 éléments. Le plus petit groupe alterné, A2, est trivial ; A3 est cyclique d'ordre 3 ; le suivant, A4, est résoluble et, plus précisément, est produit semi-direct d'un groupe de Klein par le groupe cyclique d'ordre 3. À partir du groupe A5, les groupes alternés sont simples et non abéliens, donc non résolubles. Cette non-résolubilité à partir de n = 5 a pour conséquence le théorème d'Abel, stipulant qu'il ne peut exister d'expression générique par radicaux des solutions d'une équation algébrique de degré supérieur ou égal à 5.

Le groupe alterné est la structure source de certains casse-têtes mathématiques comme le jeu de taquin ou le Rubik's Cube. Les mouvements possibles dans les deux jeux cités sont des éléments d'un groupe alterné. Cette propriété permet de montrer qu'il n'est pas possible de permuter deux cases du taquin sans modifier le reste du jeu.

Les groupes alternés de degré 4 et 5 se représentent comme le groupe des rotations laissant invariant un polyèdre régulier, le tétraèdre pour A4 et le dodécaèdre régulier ou encore l'icosaèdre pour A5.

Construction du groupe Définition Un résultat, à la base de la définition de la signature, stipule que le nombre de transpositions nécessaires pour décomposer une permutation donnée est toujours de même parité. Ainsi, le cycle (abc), qui transforme a en b, b en c et c en a peut se décomposer en deux transpositions (bc), puis (ab) ou encore en (ac) puis (bc) mais jamais en un produit d'un nombre impair de transpositions.

Cette définition est à l'origine de celle d'un groupe alterné.

Remarque : On trouve aussi l'expression groupe alterné d'indice n, à la place de groupe alterné de degré nC'est par exemple le choix de : N. Lanchier, Groupe des permutations d’un ensemble fini. Applications., Université de Rouen.. Ce choix est un peu ambigu, l'indice de An dans Sn désigne, pour d'autres auteurs, le cardinal du groupe quotient Sn/AnC'est le choix par exemple de M. Hindry, Liste des groupes simples finis, Université Paris 7.. On trouve encore le terme d'ordre pour décrire le degréY. Ladegaillerie, « Ordres liés au groupe symétrique », dans CRAS, sér. A, t. 271, 1970, , parle en introduction du .. Cette convention est plus rarement utilisée, car le terme d'ordre étant employé en théorie des groupes pour décrire le cardinal d'un groupe, ce choix introduit une confusion parfois regrettable.

Propriétés élémentaires

Dans toute la suite de l'article, n désigne un entier supérieur ou égal à 2. La définition précédente repose sur une propriété fondamentale partagée par toutes les permutations :

Cette propriété se démontre à l'aide du concept de signature d'une permutation, traitée dans le paragraphe suivant. Une fois établie, une deuxième propriété se démontre simplement :

En effet, A est non vide car il contient l'application identité, qui se décompose en zéro transposition, ou encore en deux fois la même transposition. Si φ1 et φ2 sont deux permutations paires, respectivement produits de 2p et 2q transpositions, alors leur produit est aussi une permutation paire (comme produit de 2(p + q) transpositions). Enfin, l'inverse d'une permutation σ est de même parité que σ (donc est paire si σ l'est), car si σ est un produit τ1…τr de r transpositions, son inverse est égal à τr…τ1, le produit des mêmes transpositions prises dans l'ordre inverse.

Dire que An est distingué revient à dire que si φ est élément du sous-groupe et si σ est une permutation quelconque de Sn, alors la permutation σφσ est paire. En effet, φ est le produit d'un nombre pair de transpositions, et le paragraphe précédent montre que σ se décompose en autant de transpositions que σ. Le nombre de toutes ces transpositions est donc pair car de la forme r + 2p + r.

En effet, fixons dans S une transposition σ et considérons l'application f de S dans S qui, à une permutation φ, associe φσ. Une telle application est, dans un groupe, appelée translation à droite. La fonction f, comme toute translation, est une bijection. De plus, φ est paire si et seulement si φσ est impaire, donc f se restreint en une bijection de A dans l'ensemble des permutations impaires, c'est-à-dire S\A. Ces deux ensembles ont par conséquent même cardinal. Or ils forment une partition de S, puisqu'ils sont disjoints et que leur réunion vaut S, ce qui termine la démonstration.

Une démonstration par récurrence en est donnée dans l'article « Permutation circulaire ».

Signature

La signature d'une permutation est la parité du nombre d'inversions contenues dans une permutation. On démontre que cette application est un morphisme de groupes de S dans {-1, 1} et que la signature d'une transposition est toujours égale à -1. On en déduit que le nombre de transpositions nécessaires pour décomposer une permutation ne peut être tantôt pair et tantôt impair. En effet, si φ est une permutation qui se décompose en p ou bien q transpositions, la signature de φ, d'après la propriété de morphisme, est à la fois égale à (-1)p et (-1)q, ce qui montre que p et q sont de même parité. On en déduit une nouvelle définition du groupe alterné, équivalente à la précédente :

Cette approche offre des démonstrations alternatives aux propositions du paragraphe précédent numérotées de 2 et 3. Le noyau d'un morphisme est toujours un sous-groupe distingué, ce qui montre que An est un sous-groupe distingué. L'ordre du noyau que multiplie l'ordre de l'image d'un morphisme de groupes est égal à l'ordre du groupe de départ, ce qui permet de déterminer l'ordre du groupe alterné.

Exemples Le groupe alterné de degré 2 ne contient que l'élément neutre.

Le groupe symétrique de degré 3 est d'ordre 6 et contient : l'identité, trois transpositions et deux cycles d'ordre 3. Le groupe alterné de degré 3 ne comporte que l'identité et les cycles d'ordre 3 :

Comme tout groupe contenant 3 éléments, il est cyclique.

Le groupe symétrique de degré 4 est d'ordre 24, le groupe alterné associé est d'ordre 12. Il contient les cycles d'ordre 3 et les produits de deux cycles d'ordre 2 de supports disjoints :

Le groupe alterné de degré 4 n'est pas abélien. En effet, les cycles (1 2 3) et (2 3 4) ne commutent pas. Aucun groupe alterné de degré supérieur ou égal à 4 n'est abélien, pour la même raison. Le groupe alterné de degré 4 est néanmoins résoluble, il contient un sous-groupe distingué abélien K, composé des produits de deux transpositions à support disjoints et de l'élément neutre. Ce sous-groupe K est abélien car isomorphe au groupe de Klein et le quotient A4/K est aussi abélien, et même cyclique, car d'ordre 3.

Le groupe alterné de degré 5 est d'ordre 60. Il est étudié plus avant à la suite de cet article.

Jeu de taquin

Le jeu de taquin, est un jeu solitaire qui se présente sous la forme d'un damier composé de 15 cases et d'une manquante. Sa théorisation mathématique date de 1879 et se fonde sur les propriétés du groupe alternéCité par Édouard Lucas, dans Récréations mathématiques, 1891, rééd. Blanchard, 1992 , . Une des questions posée par Sam Loyd est celle de la résolution du jeu de taquin illustré à droite. Elle correspond à la résolution d'un état du jeu où toutes les cases sont à la bonne position excepté celles numérotées 14 et 15, qui sont interverties. Elle est impossible si l'on impose à la case vide d'être en bas à droite. Elle l'est si on admet que la case vide soit en haut à gauche et que la première ligne ne contienne que les cases 1, 2 et 3.

Si l'on considère un mouvement comme une permutation des cases numérotées de 1 à 15, alors le groupe des permutations de degré 15 opère sur le jeu de taquin. Pour être plus précis, le groupe qui opère est un sous-groupe engendré par les différentes permutations possibles. Il est relativement simple de vérifier que les permutations engendrant le sous-groupe sont toutes des cycles d'ordre 3 ou 5La démonstration proposée ici provient de M. Coste Jeu de taquin et générateurs du groupe alterné Université de Rennes 1 (2008). Ces permutations sont toutes dans le groupe alterné A15. Le groupe qui opère sur le jeu de taquin est un sous-groupe du groupe alterné A15, qui ne contient aucune transposition. C'est une manière simple de démontrer que la configuration de droite n'est pas résoluble.

D'autres solitaires, comme l'Âne rouge ou le Rubik's Cube utilisent de manière analogue le groupe alterné.

On numérote une position de la manière indiquée par la figure de droite. Le trou n'est pas compté. Ainsi, la position initiale représentée sur la figure est (123456789…). Le mouvement correspondant à la flèche bleue donne la position (134562789…), elle correspond à la permutation (23456), un cycle d'ordre 5 et donc une permutation paire. Celle correspondant à la flèche rouge donne (123456978…), elle correspond à la permutation (798) un cycle d'ordre 3, et donc encore une permutation paire. Si la case vide est sur un bord, on obtient soit la permutation constante soit un cycle d'ordre 7, donc toujours une permutation paire. Ainsi toutes les permutations générant le sous-groupe opérant sur le jeu de taquin sont paires et appartiennent donc au groupe alterné.

La permutation nécessaire à la résolution du cas de figure intitulée Jeu de taquin non résoluble est une transposition, de signature impaire, elle n'est donc pas réalisable car le groupe alterné ne contient aucune transposition.

Avec les notations utilisées, le cas de figure intitulée Jeu de taquin non résoluble correspond à la position 1,2,3,4,8,7,6,5,9,10,11,12,14,15,13. Celle correspondant au taquin reconstitué dans l'ordre avec la case vide en première position à 1,2,3,7,6,5,4,8,9,10,11,15,14,13,12. Passer de l'une à l'autre des positions impose la permutation (47586)(12 15 13), produit de deux permutations de signature paire, donc paire. Il est ainsi possible de résoudre la question posée par Sam Loyd si l'on permet à la case vide de se trouver en haut à gauche.

La référence sur le taquin montre que le groupe alterné A15 est bien celui qui opère sur le jeu.

Générateurs et relations

En effet, tout produit de deux transpositions est un produit de 3-cycles, puisque pour a, b, c, d distincts, (ab)(ab) = id, (ab)(bc) = (abc) et (ab)(cd) = (abc)(bcd).

Il suffit en fait des 3-cycles (i, n – 1, n) pour 1 ≤ i ≤ n – 2 — ou bien (1, i + 1, n). On obtient ainsi une présentation du groupe A à n – 2 générateurs V et (n – 1)(n – 2)/2 relations : V = 1 et, pour i < j, (VV) = 1..

Si n > 3, on peut aussi prendre comme générateurs t = (1, 2, 3) et s égal soit à (3, 4, … , n) si n est impair, soit à (1, 2)(3, 4, … , n) si n est pair. On obtient encore une présentation, à seulement 2 générateurs et E(n/2) + 2 relations : si n est impair : s = t = (st) = 1 et, pour 1 ≤ k ≤ (n – 3)/2, (tsts) = 1 ; si n est pair : s = t = (st) = 1 et, pour 1 ≤ k ≤ (n – 2)/2, (tsts) = 1.

Classes de conjugaison

Structure La structure des classes de conjugaison est l'un des premiers éléments à étudier dans le cadre d'une analyse d'un groupe non abélien. Elles sont utilisées dans la suite de l'article pour établir que si n est strictement supérieur à 4, le groupe est simple, ou encore que tout groupe simple d'ordre 60 est isomorphe à A5.