Se $G$ é um grupo e $A,B\leq G$, então
$$
[A,B]=\left<[a,b]\mid a\in A,\ b\in B\right>.
$$
Exercício. Se $A,B\unlhd G$, então $[A,B]\unlhd G$.
Lema. Seja $K\unlhd G$, e $H\leq G$ tal que $K\leq H\leq G$. Então $[H,G]\leq K$ se e somente se $H/K\leq Z(G/K)$.
Demonstração. Exercício.
Uma série normal
$$
G_0>\cdots> G_k
$$
de um grupo $G$ é dito série central se
$$
G_i/G_{i+1}\leq Z(G/G_{i+1}).
$$
Note que se $G_i$ é uma série central, então os quocientes $G_i/G_{i+1}$ são abelianos.
Em um grupo $G$, definimos a série $\gamma_i(G)$ recursivamente como $\gamma_1(G)=G$, e $\gamma_{i+1}(G)=[G,\gamma_i(G)]$ para $i\geq 1$. Note que $\gamma_2(G)=G’$. A série $\gamma_i(G)$ é chamada de série central descendente.
Similarmente, definimos $\zeta_0(G)=1$ e recursivamente $\zeta_{i+1}(G)$ é definido como o subgrupo de $G$ que contém $\zeta_{i}(G)$ e satisfaz que
$$
Z(G/\zeta_{i}(G))=\zeta_{i+1}(G)/\zeta_i(G).
$$
A série $\zeta_i(G)$ é chamada de série central ascendente de $G$. O termo $\zeta_i(G)$ é dito $i$-ésimo centro de $G$.
Lema. As séries $\gamma_i(G)$ e $\zeta_i(G)$ são centrais.
Demonstração. É claro no caso de $\zeta_i(G)$. O caso de $\gamma_i(G)$ segue do lema anterior.
Lema. Seja $G$ um grupo.
- Se
$$
G_1=G>G_2>\cdots> G_k
$$
é uma série central, então $\gamma_i(G)\leq G_i$ para todo $i$. - Se
$$
1=H_0<H_1<\cdots<H_m
$$
é uma série central então $H_i\leq \zeta_i(G)$ para todo $i$.
Demonstração. 1. Indução por $i$. A afirmação é clara para $i=1$. Assuma que $\gamma_i(G)\leq G_i$ para $i\geq 1$. Então
$$
\gamma_{i+1}(G)=[\gamma_i(G),G]=[G_i,G]\leq G_{i+1}.
$$
A última desigualdade segue do lema anterior.
2. Indução por $i$. É clara para $i=0$. Assuma que $H_i\leq \zeta_i(G)$ para algum $i$. Então temos um homomorfismo sobrejetivo
$$
\alpha:G/ H_i\rightarrow G/\zeta_i(G).
$$
Como a série $H_i$ é central, $H_{i+1}/H_{i}\leq Z(G/ H_i)$. Aplicando o homomorfismo $\alpha$, obtemos que
$$
H_{i+1}\zeta_{i}(G)/\zeta_i(G) \leq Z(G/\zeta_i(G))=\zeta_{i+1}(G)/\zeta_i(G).
$$
Portanto, $H_{i+1}\leq \zeta_{i+1}(G)$.
Teorema. Em um grupo $G$ tem se que $\zeta_c(G)=G$ se e somente se $\gamma_{c+1}(G)=1$. Neste caso $$
\gamma_{i+1}(G)\leq \zeta_{c-i}(G)
$$
para todo $i\geq 0$.
Demonstração. Segue do lema anterior.
Um grupo $G$ é dito nilpotente se existe um $c\geq 1$ tal que $\gamma_{c+1}(G)=1$. O menor tal $c$ é dito a classe de nilpotência de $G$. Claramente, um grupo nilpotente é solúvel, mas um grupo solúvel não é necessariamente nilpotente (e.g. $S_3$).
Corolário. Seja $G$ um grupo.
- Se $G$ é nilpotente $H\leq G$ e $N\unlhd G$, então $H$ e $G/N$ são nilpotentes.
- Se $G$ é nilpotente, então $Z(G)\neq 1$.
- $G$ é nilpotente se e somente se $G/Z(G)$ é nilpotente.
- Se $G$ e $H$ são nilpotentes, então $G\times H$ é nilpotente.
Teorema. Um $p$-grupo finito é nilpotente.
Demonstração. Indução pela ordem de $G$. A afirmação é verdadeira para grupos de ordem $p$ ou $p^2$. Assuma que a afirmação é verdadeira para grupo cuja ordem é menor que $p^n$ e seja $G$ um grupo de ordem $p^n$. Como $Z(G)\neq 1$, temos pela hipótese de indução que $G/Z(G)$ é nilpotente e pelo corolário anterior obtemos que $G$ é nilpotente.
Lema. Seja $G$ um grupo nilpotente.
- Se $H<G$, então $H<N_G(H)$;
- Se $1\neq N\unlhd G$, então $N\cap Z(G)\neq 1$.
- Se $M$ é um subgrupo maximal de $G$, então $M$ é normal e $|G:M|$ é primo.
Demonstração. 1. Seja $i$ tal que $\gamma_{i-1}(G)\not\leq H$, mas $\gamma_i(G)\leq H$. Então
$$
[\gamma_{i-1}(G),H]\leq [\gamma_{i-1}(G),G]=\gamma_i(G)\leq H.
$$
Logo $\gamma_{i-1}(G)\leq N_{G}(H)$. Como $\gamma_{i-1}(G)\not\leq H$, obtem-se que $N_G(H)\leq H$ e segue que $H<N_G(H)$.
2. Assuma que $m$ é minimal tal que $\zeta_m(G)\cap N\neq 1$. Ora
$$
[N\cap \zeta_m(G),G]\leq N\cap [\zeta_m(G),G]=N\cap \zeta_{m-1}(G)=1.
$$
Isto implica que $N\cap \zeta_m(G)\leq Z(G)$.
3. Seja $M$ um subgrupo maximal de $G$. Por parte (1), tem-se que $N_G(M)=G$, então $M$ é normal em $G$. Pela maximalidade de $M$, o quociente $G/M$ não possui um subgrupo próprio, não trivial. Portanto $G/M\cong C_p$ com algum primo $p$. Em particular, $|G:M|=p$.
Exercício. Seja $G$ um grupo finito, e $P$ um subgrupo de Sylow. Mostre que $N_G(N_G(P))=N_G(P)$,
Teorema. Um grupo finito é nilpotente se e somente se ele é produto direto dos seus subgrupos de Sylow.
Demonstração. Se $G$ é produto direto dos $p$-subgrupos de Sylow, então $G$ é nilpotente.
Assuma que $G$ é finito e nilpotente. Seja $P$ um $p$-subgrupo de Sylow de $G$ e seja $N=N_G(P)$. Pelo exercício anterior, $N_G(N)=N$. O lema anterior implica que $N=G$, então $P$ é normal em $G$. Sejam $p_1,\ldots,p_k$ os divisores primos de $|G|$ e sejam $P_1,\ldots,P_k$ os subgrupos de Sylow correspondentes. Como todo $P_i$ é normal em $G$,
$[P_i,P_j]\leq P_i\cap P_j=1$ (se $i\neq j$), então $P_1\times\cdots\times P_k$ é um subgrupo de $G$. Comparando ordens, $G=P_1\times\cdots\times P_k$.