Un coset est un type spécifique de sous-ensemble d’un groupe mathématique. Par exemple, on pourrait considérer l’ensemble de tous les multiples entiers de 7, {… -14, -7, 0, 7, 14 …}, qui peuvent être notés 7Z. L’ajout de 3 à chaque nombre génère l’ensemble {… -11, -4, 3, 10, 17 …}, que les mathématiciens décrivent comme 7Z + 3. Ce dernier ensemble est appelé le coset de 7Z généré par 3.
Il y a deux propriétés importantes de 7Z. Si un nombre est un multiple de 7, son inverse additif l’est aussi. L’inverse additif de 7 est -7, l’inverse additif de 14 est -14, et ainsi de suite. De plus, l’ajout d’un multiple de 7 à un autre multiple de 7 donne un multiple de 7. Les mathématiciens décrivent cela en disant que les multiples de 7 sont fermés sous l’opération d’addition.
Ces deux caractéristiques sont la raison pour laquelle 7Z est appelé un sous-groupe des entiers sous addition. Seuls les sous-groupes ont des cosets. L’ensemble de tous les nombres cubiques, {… -27, -8, -1, 0, 1, 8, 27 …}, n’a pas de cosets de la même manière que 7Z car il n’est pas fermé par addition : 1 + 8 = 9, et 9 n’est pas un nombre cubique. De même, l’ensemble de tous les nombres pairs positifs, {2, 4, 6, …}, n’a pas de co-ensembles car il ne contient pas d’inverses.
La raison de ces stipulations est que chaque numéro doit être dans exactement un ensemble. Dans le cas de {2, 4, 6, …}, 6 est dans le coset généré par 4 et est dans le coset généré par 2, mais ces deux cosets ne sont pas identiques. Ces deux critères suffisent pour s’assurer que chaque élément est dans exactement un coset.
Les cosets existent dans n’importe quel groupe, et certains groupes sont bien plus compliqués que les entiers. Un groupe utile que l’on pourrait considérer est l’ensemble de toutes les façons de déplacer un carré sans changer la région qu’il couvre. Si un carré est tourné de 90 degrés, il n’y a aucun changement apparent dans la forme. De même, il peut être retourné verticalement, horizontalement ou en diagonale sans changer la région couverte par le carré. Les mathématiciens appellent ce groupe D4.
D4 a huit éléments. Deux éléments sont considérés comme identiques s’ils laissent tous les coins au même endroit, donc faire tourner le carré quatre fois dans le sens des aiguilles d’une montre revient à ne rien faire. Dans cet esprit, les huit éléments peuvent être notés e, r, r2, r3, v, h, dd et dd. Le e fait référence à ne rien faire, et r2 indique faire deux rotations. Chacun des quatre derniers éléments fait référence au retournement du carré : verticalement, horizontalement ou le long de ses diagonales inclinées vers le haut ou vers le bas.
Les entiers sont un groupe abélien, c’est-à-dire que son fonctionnement satisfait à la loi commutative : 3 + 2 = 2 + 3. D4 n’est pas abélien. Faire pivoter un carré puis le retourner horizontalement ne déplace pas les coins de la même manière que de le retourner puis de le faire pivoter.
Lorsqu’ils travaillent dans des groupes non commutatifs, les mathématiciens utilisent généralement un * pour décrire l’opération. Un petit travail montre que faire pivoter le carré puis le retourner horizontalement, r * h, revient à le retourner sur sa diagonale descendante. Ainsi r * h = dd. Retourner le carré puis le faire pivoter équivaut à le retourner sur sa diagonale ascendante, donc r * h = du.
L’ordre compte dans D4, il faut donc être plus précis dans la description des cosets. Lorsque l’on travaille sur les nombres entiers, la phrase le coset de 7Z généré par 3 est sans ambiguïté car peu importe que 3 soit ajouté à gauche ou à droite de chaque multiple de 7. Pour un sous-groupe de D4, cependant, des ordres différents seront créer différents cosets. Sur la base des calculs décrits précédemment, r*H, le co-ensemble gauche de H généré par r – est égal à {r, dd} mais H*r est égal à (r, du}. L’exigence selon laquelle aucun élément ne se trouve dans deux co-ensembles différents ne s’applique pas lorsque l’on compare les cosets de droite aux cosets de gauche.
Les co-ensembles de droite de H ne correspondent pas à ses co-ensembles de gauche. Tous les sous-groupes de D4 ne partagent pas cette propriété. On peut considérer le sous-groupe R de toutes les rotations du carré, R={e, r, r2, r3}.
Un petit calcul montre que ses cosets de gauche sont les mêmes que ses cosets de droite. Un tel sous-groupe est appelé sous-groupe normal. Les sous-groupes normaux sont extrêmement importants en algèbre abstraite car ils codent toujours des informations supplémentaires. Par exemple, les deux cosets possibles de R correspondent aux deux situations possibles le carré a été retourné et le carré n’a pas été retourné.