设$Omega$是一个集合,那么群$G$到对称群$S(Omega)$的每个同态$phi:G o S(Omega)$叫做群$G$在集合$Omega$上的一个置换表示.特别的如果$phi$是单的,那么称$phi$是忠实表示.
注意群$G$中任意元素$g$在$phi$下的像$phi(g)$是$Omega$中的一个置换,因此我们可以将群$G$中的每个元素视作置换,即$$ga:=phi(g)a,forall ainOmega$$形象的看就是群作用在集合上.
如果我们在$Omega$中定义关系$asim bLeftrightarrowexists gin G$使得$ga=b$,不难验证这是一个等价关系,那么$Omega$可被分解成一些等价类的无交并,如果我们记$[a]={ga:gin G}$为等价类,那么$$Omega=igcup_{a}[a]$$其中每个等价类称为$G-$轨道,元素$a$的轨道也记作$$mathrm{Orb}_a:=[a]$$也记作$O_a$.特别的如果$Omega$只有一条轨道,那么称$G$在$Omega$上的作用是传递的(也称为可迁的).那么显然$G$在每条轨道上的作用是传递的.我们来看具体的群作用的例子:
例1.设$G$是群,取$Omega=G$,考虑映射$phi:G o S(G)$,定义$phi(g)a=ga,forall a,gin G$,那么$phi$是一个同态,这是因为$forall g,h,ain G$有$$phi(gh)a=gha=phi(g)phi(h)a$$因此$phi$是群$G$在集合$G$上的一个置换表示,并且$$mathrm{Ker}phi={1}$$我们也把这个表示称为群$G$的左正则表示,且显然这个表示是忠实的.类似的可以定义右正则表示.
利用此我们可以得出如下的Cayley定理:每个群均同构于某个置换群.
只需对例1中的左正则表示用同态基本定理$G=G/mathrm{Ker}phisimeqmathrm{Im}phileq S(G)$,这就说明群$G$同构于某个置换群.
例2.设$Hleq G$,取$Omega:={aH:ain G}$即为全体左陪集构成的集合,考虑映射$pi_H:G o S(Omega)$,定义$pi_H(g)(aH)=gaH$,不难验证这也是一个同态,称为$G$对于子群$H$的左诱导表示.如果$ginmathrm{Ker}pi_H$,那么$forall ain G$有$pi_H(g)(aH)=gaH=aHRightarrow gin aHa^{-1}$,注意$a$的任意性可知$$mathrm{Ker}pi_H=igcap_{ain G}aHa^{-1}$$即为$H$的全体共轭子群之交.类似的也可以定义右诱导表示.
例3.设$Asubset G$是群$G$的任意子集,取$Omega:={aAa^{-1}:ain G}$即为$A$的共轭子集的全体.考虑映射$ ho_A:G o S(Omega)$,定义$ ho_A(g)aAa^{-1}=gaAa^{-1}g^{-1}$,这也是一个同态,称为群$G$对于子集$A$的共轭表示.类似的可求出其同态核$$mathrm{Ker} ho_A=igcap_{ain G}aN_G(A)a^{-1}$$即为$A$的正规化子$N_G(A)$的全体共轭子群之交.
设$ainOmega$,我们考虑集合$mathrm{Stab}(a):=G_a:={gin G:ga=a}$,即为保持元素$a$不动的那些群元素之集合.不难验证其构成群$G$的子群,即$mathrm{Stab}(a)leq G$,称作元素$a$的稳定子群.我们有如下的:
轨道-稳定子定理 设有限群$G$作用在集合$Omega$上,那么$forall ain Omega$有$$|G|=|mathrm{Orb}(a)|cdot|mathrm{Stab}(a)|leftrightarrow|mathrm{Orb}(a)|=[G:mathrm{Stab}(a)]$$证明 设$G=cup_{i=1}^{n}g_imathrm{Stab}(a)$,注意到$forall g,hin G$,那么$$gmathrm{Stab}(a)=hmathrm{Stab}(a)Leftrightarrow h^{-1}ginmathrm{Stab}(a)Leftrightarrow h^{-1}ga=aLeftrightarrow ga=ha$$这说明在同一陪集中的元素作用在$a$上的结果是相同的,且不同陪集的元素作用结果不同.这便说明了$$|mathrm{Orb}(a)|=[G:mathrm{Stab}(a)]$$
特别的如果$G$在$Omega$上的作用是可迁的,那么$$|G|=|Omega|cdot|mathrm{Stab}(a)|,forall ainOmega$$而若$G$是无限群,轨道长度有限时,我们通常用后面的表达形式$|mathrm{Orb}(a)|=[G:mathrm{Stab}(a)]$.
特别的如果$a,b$位于同一轨道中,即存在$gin G$使得$b=ga$,那么我们看他们的稳定子群有什么关系.任取$hinmathrm{Stab}(b)$,则$hb=bRightarrow hga=gaRightarrow g^{-1}hginmathrm{Stab}(a)$,即$mathrm{Stab}(b)subset gmathrm{Stab}(a)g^{-1}$,类似可得$mathrm{Stab}(b)subset gmathrm{Stab}(a)g^{-1}$,这说明$$mathrm{Stab}(b)=gmathrm{Stab}(a)g^{-1}$$即同一轨道中元素的稳定子群是共轭的.
例4.正$n(ngeq3)$边形的对称群.
我们把平面中能够使得图形$Gamma$与自身重合的正交变换(旋转和镜面反射)称作称作图形$Gamma$的对称,显然全体这种对称构成一个群,称为图形$Gamma$的对称群,记作$S(Gamma)$,特别的正$n$边形的对称群,记作$D_n$.我们来考虑它的结构:
显然$D_n$可看做是对$n$个顶点的置换,我们可以视作群$D_n$作用在顶点击$Omega={1,2,cdots,n}$上,显然这个作用是传递的,用绕中心旋转$frac{2pi}{n}$的置换$sigma=(12cdots n)$依次作用即可.再者对于某个顶点$1$,保持$1$不动的置换只有两个,分别是恒等置换和保持$1$不动的反射
[ au = left{ egin{array}{l}
(2,n)left( {3,n - 1}
ight) cdots left( {frac{n}{2},frac{n}{2} + 2}
ight),n equiv 0(mod 2) \
left( {2,n}
ight)left( {3,n - 1}
ight) cdots left( {frac{{n + 1}}{2},frac{{n + 3}}{2}}
ight),n equiv 1(mod 2) \
end{array}
ight.]
根据轨道-稳定子定理$|D_n|=|Omega|cdot|mathrm{Stab}(1)|=2n$.注意到$sigma^i au^j(0leq ileq n-1,0leq jleq1)$恰为$2n$个不同的置换,因此$$D_n={sigma^i au^j:0leq ileq n-1,0leq jleq1}$$并且运算满足$sigma^n= au^2=1, ausigma=sigma^{-1} au$且$sigma au= ausigma^{-1}$,据此可以得到更一般的$$ ausigma^m=sigma^{-m} au,forall minmathbb Z$$
进一步的我们可以求出$D_n$的中心$C(D_n)$.显然$sigma^i au otin C(D_n)$,而若$sigma^iin C(D_n),(0leq ileq n-1)$,注意到$D_n$的结构,仅需保证其与$ au$可换即可,即$$sigma^i au= ausigma^iLeftrightarrowsigma^{2i}=1Leftrightarrow nig|2i$$因此$$C(D_n)=left{egin{matrix}{1,sigma^m}&n=2m\{1}&n=2m+1end{matrix} ight.$$
与稳定子群类似,$forall gin G$,我们定义元素$g$作用下的不动点的概念$$N(g):={ainOmega:ga=a}$$,即$Omega$中在置换$g$作用下保持不动的那些元素.关于不动点,我们有著名的Burnside引理:
设有限群$G$作用在集合$Omega$上,那么$Omega$中轨道的条数$$m=frac{1}{|G|}sum_{gin G}|N(g)|$$直观来讲就是$G$在$Omega$的作用时,平均有$t$个不动点.下面给出他的证明:
按照定义显然有$sumlimits_{ainOmega}|mathrm{Stab}(a)|=sumlimits_{gin G}|N(g)|$,另一方面注意到位于同一轨道中两元素的稳定子群是共轭的,因而具有相同的基数,从而$$sum_{ainOmega}mathrm{Stab}(a)=sum_{i=1}^{m}|mathrm{Orb}(a_i)|cdot|mathrm{Stab}(a_i)|=m|G|$$因此定理成立.
这是组合数学中一个重要的计数定理，但是在实际应用时$N(g)$并不好直接计算,所以有更进一步的的Polya定理来处理计数问题.有兴趣不妨查阅组合数学的教材.
类似的我们可以定义群$G$作用下的不动点:$$Omega_0:={ainOmega:ga=a,forall gin G}$$即群$G$每个元素都保持不动的$Omega$中的元素.
在后面的Sylow定理中会涉及整个群作用下不动点的应用.