线性代数学习笔记
0 前言与一些注意事项与定义
听说明天要讲拟阵,然后就搞一下线性代数.
大多数内容来自(wfj\_2048)的(ppt)
在这里先解释一下左乘和右乘是啥,(A)左乘(B)就是(AB),(A)右乘(B)就是(BA)
线性变换是乱七八糟凑.差不多这么理解即可.
(mathbb{R^n})表示(n)维(R)域的空间.(dim X)表示(X)空间的维数.
1 矩阵
1.0 矩阵的基本概念
首先需要了解基本的东西,矩阵.
定义一个矩阵(A)有(m)行(n)列,那么可以写成:
我们还可以定义矩阵的数乘为(lambda A),相当于是给矩阵中所有的元素都乘上一个数字.
然后矩阵有如下性质:
- 结合率: (ABC=A(BC))
- 数乘结合律: (eta(lambda A)=etalambda A)
- ...(自行百度)
有一些特殊的矩阵,我们称之为(I),(0).
- (I),单位矩阵,就是对角线全是(1),其他位置都是(0)的矩阵.
- (0),零矩阵,就是所以位置都是(0)的矩阵.
1.1 矩阵的运算
加法就是对应位置加,减法就是对应位置减,乘法就是对应位置乘
矩阵的乘法,有如下定义:(A)矩阵为((m,n)),(B)矩阵为((n,p)).(C=A*B)
- (C(i,j))为(A)的第(i)个行向量内积(B)的第(j)个列向量.
- (C)的第(i)行向量又等于(A)的第(i)行向量*(B)。
- 所以(C)的第(i)列向量又等于(A)*((B)的第(i)列向量)。
- 最难理解的一条:(C = sum_{i=1}^n a_i imes b_i)((a_i)为(A)的第(i)列形成的矩阵,(b_i)为(B)的第(i)行形成的矩阵,式中( imes)为矩阵乘法)
第2,3条直接把矩阵乘法的定义式拆开就是了.
第4条的话,直接把矩阵乘法拆开然后交换一下(sum)就行了.
反正都是暴力拆就对了
1.2 特殊的矩阵变化与矩阵
1.2.1 特殊矩阵
特殊矩阵有倍加矩阵,倍乘矩阵和对换矩阵.
倍加矩阵: P
然后这个矩阵中第((i,j))个数字为(c),主对角线上为(1),其他位置都是(0).
倍乘矩阵: C
然后这个矩阵中主对角线上,除一个位置为(c),其他位置为(1),不在主对角线上的数字都是(0).
对换矩阵: E
这个矩阵相当于是交换(I)矩阵的两行.
1.2.2 特殊的矩阵变换
考虑上述的特殊矩阵有啥用,特殊矩阵左乘一个矩阵就是做初等行变换,右乘一个矩阵就是做初等列变换.
(a_i+a_j*c)就是倍加矩阵(E(i,j))写一个(c).
倍乘矩阵(C(i,i))为(c)表示把第(i)行乘(c).
对换矩阵就是交换.
1.3 逆矩阵
对于方阵而言,存在(AB=I),称(B)为(A)的逆矩阵,记做(A^{-1}),(A^{-1}A=AA^{-1}=I).
非方阵没有逆矩阵.
((AB)^{-1}=B^{-1}A^{-1}).
证明可以两边同时乘(A,B).
- 若(A)可逆, 且(Avec x=vec b),则 (vec x=A^{-1} vec b)。故对任意(vec b),方程总有唯一解。
- 对于(vec b = vec 0),方程只有零解。
- 若(A)可逆,则(A)总能通过初等行变换变为单位阵,可结合高斯约旦消元理解.
- 矩阵可逆,当且仅当它消元以后有(n)个主元,满秩即可逆(满秩阵和可逆阵互为充要条件).
初等行变换不改变矩阵的可逆性,且若(A,B)可逆,(AB)可逆.
1.4 转置矩阵
矩阵(A)的转置为(A^T),定义为(A^T(i,j)=A(j,i))
((AB)^T=B^TA^T),这个比较显然.
(A^{-1^T}=A^{T^{-1}})
这个证明考虑将(A=A,B=A^{-1})带入((AB)^T=B^TA^T),那么有
简单证明即可.
-
(vec xcdot vec y=vec x^Tvec y)左边是内积,右边是矩阵乘法。重点注意这个形式,在线代的理解与证明中非常有用。
定义:对于(n)阶方阵,若(A=A^T),则(A)为对称阵;若(A=−A^T),则(A)为反对称阵。
-
任一方阵都能唯一地表示成一个对称阵与一个反对称阵之和.证明构造即可,类似高数上奇函数偶函数那个证明过程.
-
反对称阵的对角元均为0.这个证明直接参照定义即可.
-
(AA^T)以及(A^TA)都是对称阵,这个也是根据定义证明.
2 向量空间
2.1 向量空间(线性空间)
若存在一个集合(V)与域(P),使得
- (V)中有加法,对应唯一的和.
- (V)中有数量乘,对应唯一的乘积.
- 加法与数乘满足如下八条性质:
那么称(V)为(P)上的一个向量空间.
第3条即满足加有交换律,结合律,与乘有分配率,有0元,有负元(相反数),有单位元,数乘有结合律,分配率.
2.2 子空间
线性空间(V)的一个子集(W),满足(W)中存在零向量,W对加法和数乘封闭,则称(W)为(V)的子空间。显然子空间也是线性空间。
封闭的意思就是保证乘完后还在(W)内.
对于一个(A(m by n)),那么有:
- 行空间:矩阵(A)的行张成的空间,记为(C(A^T)).通俗来说就是(A)的行向量线性变换组成的空间.
- 列空间:矩阵(A)的列张成的空间,记为(C(A)).通俗来说就是(A)的列向量线性变换组成的空间.
- (右)零空间:满足(Avec x=vec 0)的所有解张成的空间.
- 左零空间:满足(A^Tvec x=vec 0)的所有解张成的空间.
- 行空间和零空间为(mathbb{R^m}) 的子空间,列空间和左零空间为(mathbb{R^n})的子空间。
- 若(Avec x=vec b)有解,则(vec b in C(A));若(A^Tvec x=vec b)有解,则(bin C(A^T )).这个证明的话考虑解相当于是列空间的线性变换.
3 线性...
3.1 线性相关与线性无关
若(k_1vec v_1+k_2vec v_2+...+k_nvec v_n=vec 0)的解当且仅当(forall k_i=0),那么这些向量线性无关,否则称它们线性相关.
若一组向量线性无关,且能表示出一个线性空间的所有向量,那么这组向量就称为这个线性空间的一组基。
-
若一组向量中存在一个向量,其能被其他向量线性表出,则这组向量线性相关.这个可以通过定义证明.
-
一个线性空间中任意一组基的向量个数相等.不妨令最小基向量个数为(a),那么考虑若增加一个向量(vec x),这个向量一定能够被之前的向量线性表出,与线性无关矛盾.
-
一个线性空间的维数为该空间任意一组基所含有的向量个数.感性理解即可.
3.2 线性基
就提两句话:
- 线性基中一个数能有(2^{n-k})中表示方法,其中(n)是个数,(k)是线性基中的个数.
- 线性基是一个只有(0,1)元素的线性空间.
4 解方程
4.1 解(Avec x=vec 0)
4.1.0 定义
首先定义行阶梯形矩阵(U): ( ext{Upper Triangular Matrix}).
- 每个阶梯只有一行,即绝无可能一下子存在中间有零行.
- 元素不全为零的行(非零行)的第一个非零元素所在列的下标随着行标的增大而严格增大(列标一定不小于行标).
- 元素全为零的行(如果有的话)必在矩阵的最下面几行.
简化行阶梯形矩阵(R = rref(A))
- 非零行的第一个非零元素全是1.
- 且非零行的第一个元素1所在列的其余元素全为零
来一个练手题,将下面的矩阵化成简化行阶梯形矩阵:
答案:
4.1.1 正言
(N(A)=N(U)=N(R)),因为初等行变换不改变矩阵零元的情况.
解(Avec x=vec 0),先将(A)化为(rref(A)).
可以发现,所有非主元都能自由取值。那么我们的解向量显然由(n)-主元数个线性无关的向量组成。
故(A vec x=vec 0)的通解为这些向量的线性组合。所以(dim N(A)=n-)主元个数.同时可以发现,非主元所在的列是其前面的列的线性组合,故(dim C(A) =)主元个数.
故:(dim N(A) +dim C(A) = n)。
显然(rref(A))的非零行数对应着(C(A^T))的维数.可以发现其非零行数等于主元个数,故(dim C(A^T)=dim C(A)).
4.2 秩
称一个矩阵的主元个数为它的秩,记为(r(A)).
- (r(A) = dim C(A) = dim C(A^T) = r(A^T), r(A) le min(m, n)).
- (r(AB) le min(r(A), r(B))).
- 矩阵左乘或右乘一个可逆阵不改变秩.
- A为(m imes n)矩阵,B为(n imes p)矩阵,则(r(AB) ge r(A) + r(B) − n).
老邬都没有证,我怎么会证. - 满秩方阵可逆(之前提过).
考虑第2条性质的证明:
首先证明(r(AB)le r(B)).
考虑这是(B)的列向量的空间组合,那么显然基的大小不会变大.
又因为(r(A)=dim C(A)),所以(r(AB)le r(B)).
基本相同的道理可以证明(r(AB) le r(A)),所以(r(AB) le min(r(A),r(B))).
4.3 解(Avec x=vec b)
解(Avec x=vec b),先将(A)化为(U),同时(vec b)进行同样的初等行变换,然后判断是否有解.
判断有解就是类似判断一元一次方程的解一样.
然后再化为(rref(A)),此时令非主元都为(0),可以直接得到一个特解.
然后再求出(Avec x=vec 0)的通解。那么它的解可表示为特解+通解的线性组合.
- (r(A)=m)的矩阵称为行满秩矩阵,该矩阵(C(A) = mathbb{R^m}).易证.
- (r(A)=n)的矩阵称为列满秩矩阵,该矩阵(N(A) = {vec 0}).易证.
至此,线代基础告一段落,行列式为下一部分内容
抱歉它鸽了.