一、向量空间
线性代数是研究向量和矩阵的一门数学，矩阵也是向量构成的，所以线性代数主要是研究向量，向量空间以及向量线性组合性质的一门科学。
我们知道向量有几种基本的运算：向量加法和向量与一个标量相乘，即：
$mathbf{u}+mathbf{v}=left(u_{1}+v_{1}, u_{2}+v_{2}, dots u_{n}+v_{n} ight)$
$k mathbf{u}=left(k u_{1}, k u_{2}, ldots, k u_{n} ight)$
我们先说一下什么是空间，这样一个空间有些什么最基本的特点。以三维空间为例：
-
- 1: 由很多（实际上是无穷多个）位置点组成
- 2: 这些点之间存在相对的关系
- 3: 可以在空间中定义长度、角度
- 4: 这个空间可以容纳运动，这里我们所说的运动是从一个点到另一个点的移动（变换），而不是微积分意义上的“连续”性的运动
其中第四条：容纳运动是空间的本质特征。
如果把向量看成是空间中的一个个点，那么向量的变换就是这个点在空间中的运动。
所以说，向量空间也是一个集合，这个集合对向量的加法和数乘是封闭的
也就是说，只要向量在这个空间内，那么向量按照加法和数乘的方式运动，就会一直在这个空间里。
所以，对加法和数乘运算封闭的向量空间也称为线性空间
定义了向量空间之后，我们来看看最常见的一种向量空间：
-
- $mathbf{R}^{n}$定义了一个维度为$n$的实向量空间，就是所有维度为$n$的实向量的集合，当$n=2$就是平面，当$n=3$就是我们熟悉的三维空间
- 很容易可以看出，如果有任意两个向量$mathbf{u}, mathbf{v}$在向量空间里，那么$mathbf{u}+mathbf{v}$必然也在这个空间里，而且$c mathbf{u}$同样也是在这个空间里
二、向量子空间
上面讲述了向量空间，我们来看看向量子空间。我们知道，$mathbf{R}^{n}$包含了所有维度为$n$的实向量，但是有的时候，我们可能不需要考虑所有的$n$维实向量，我们只需要考虑一部分的$n$维实向量
那么这一部分实向量构成的集合或者空间，就称为向量子空间。向量子空间可以看成是向量空间中的一个子集，但是子集本身也是封闭的：
-
- 也就是说，如果有任意两个向量$mathbf{u}, mathbf{v}$在子空间里，那么$mathbf{u}+mathbf{v}$必然也在这个子空间里，而且$c mathbf{u}$同样也是在这个子空间里。因为要满足数乘封闭
- 所有的子空间都应该包括$mathbf{0}$向量
所以，三维空间可以存在四种子空间：
- 过原点的直线
- 过原点的平面
- 三维空间本身
- 0向量
所以概括来说，向量空间是向量的集合，而向量子空间，就是这个集合中的子集，无论向量空间还是子空间，都满足向量加法和数乘的封闭性
三、矩阵的列空间（关心的是b，即什么样的b会使得方程有解）
假设一个矩阵：
$A=left[egin{array}{lll}{1} & {1} & {2} \ {2} & {1} & {3} \ {3} & {1} & {4} \ {4} & {1} & {5}end{array} ight]$
则该矩阵的列空间$C(A)$是$mathrm{R}^{4}$的子空间，那么$C(A)$到底是什么？其实$C(A)$就是矩阵$A$中列的线性组合
那么矩阵的列空间到底有什么作用？
下面我们将列空间与线性方程组联系起来，以更好的认识$Ax=b$，首先$Ax=b$并不是对于所有$b$都有解
因为三个向量的组合不可能覆盖整个4维空间，那么什么样的$b$会使得该方程有解呢？
首先很明显的是当$b$为零向量时该方程组有解：$left[egin{array}{l}{0} \ {0} \ {0}end{array} ight]$，任何时候b为零向量方程组都是有解的
其实仔细想想我们知道只有当$b$是$A$中列的线性组合时这个方程才有解，也就是说当且仅当$b$属于$A$的列空间$C(A)$时$Ax=b$才有解
因此矩阵的列空间非常重要，因为它能告诉我们方程什么时候有解
再看看上面的例子：是否每个列向量都对列空间的确立贡献了自己的力量呢？当然不是，因为第三列可以通过前两列线性组合（相加）得到
因此：这个矩阵的列空间就是$R^4$中的二维子空间
四、矩阵的零空间（null space：关心的是x，即什么样的x使得b是零向量）
零空间是跟列空间完全不同的子空间，$A$的列空间关心的是什么样的$b$使得$Ax=b$有解
而$A$的零空间关心的是当$b$是零向量的时候，即$Ax=0$时的所有解$x$
也就是说列空间关心的是$b$，而零空间关心的是$b=0$时的$x$，还是以矩阵$A$为例：
$A=left[egin{array}{lll}{1} & {1} & {2} \ {2} & {1} & {3} \ {3} & {1} & {4} \ {4} & {1} & {5}end{array} ight]$
那么$A$矩阵的零空间时什么呢？我们知道零空间一定包含零向量：
$left[egin{array}{l}{0} \ {0} \ {0}end{array} ight]$
在这个例子中，我们容易得到其他的解向量$x$为：
$left[egin{array}{c}{1} \ {1} \ {-1}end{array} ight]$
推广一下可得所有形如$cleft[egin{array}{c}{1} \ {1} \ {-1}end{array} ight]$的向量都在$A$的零空间里，这个零空间是$R^{3}$中的一条两端延伸且过原点的直线。
上面的列空间和零空间，参考请点击