资料
QR Factorization and Singular Value Decomposition
线性方程(Ax=b)有关的矩阵分解
LU decomposition
分解成上三角,下三角,置换矩阵的乘积
- 适用于方块矩阵((n imes n))
- LUP(P是置换矩阵)是一定存在的,这其实就是高斯消元法的体现
- 用于(Ax = b)的求解,(LUx = b),
Rank factorization(秩分解)
- 适用于(m imes n)矩阵,秩为(r)
- (A=CF),C((m imes r)),列满秩,F((r imes n)),行满秩
- 用于计算伪逆
Cholesky decomposition
- 适用于方块,对称,正定矩阵
- (A = LL^T) ,L是下三角矩阵
- 是唯一的,同时适用于Hermitian正定矩阵
- 是LU的一种特殊形式
QR decomposition
- 适用于(m imes n)
- (A =QR), Q是正交矩阵(QQ^T =I),R是上三角矩阵
- 也可以用于求解(Ax=b),而不需要求解逆矩阵
- 同时相对于LU分解,他是数值稳定的,(不需要保留小数点后面很多的数字,为了避免数值上的不稳定)
基于特征值的相关矩阵分解
Eigen decomposition
- spectral decomposition,同时也叫作谱分解
- 适用于具有不同特征向量的方块矩阵,
- (A=VDV^{-1}) ,D是由特征值组成的对角矩阵,V的每一列是特征值对应的特征向量
Jordan decomposition
- 适用于方块矩阵
- 是特征值分解的广泛推广形式
Schur decomposition
- 适用于方块矩阵
- 有复数版本的,有实数版本的schur分解
- 实数版本(A = VSV^T),V是正交矩阵,S是上三角块矩阵.(The blocks on the diagonal of S are of size 1×1 (in which case they represent real eigenvalues) or 2×2 (in which case they are derived from complex conjugate eigenvalue pairs).
Singular value decomposition
- 适用于(m imes n)矩阵
- (A= UDV^H),D非负对角矩阵,U,V是酉矩阵
其他形式的分解
Polar decomposition
- 适用于方块,复数矩阵
- (A= UP)(right polar decomposition), (A=P'U) (left polar decomposition)
数值稳定性,主元的选择
condition num
Measures how change in input is propogated to change in output
可以由SVD分解来求解条件数，判断矩阵的稳定性。具体参考QR Factorization and Singular Value Decomposition