向量范数：
性质：
(1)正性：$||X||>0$且$||X|| Leftrightarrow X=0$
(2)奇性：$||kX||=|k|||X||$
(3)三角形：$||X+Y|| le ||X|| + ||Y||$，推论$| ||X|| - ||Y|| | le ||X-Y||$
范数定义：V是线性空间（在复数域上），V上一个实值$varphi(X)=||X||$叫范数，适合：
(1)正性：$ varphi(X)=||X||>0$且$||X|| Leftrightarrow X=0$
(2)奇性：$ varphi(kX)=|k|varphi(X)$
(3) 三角性：$ varphi(X+Y) le varphi(X) + varphi(Y) $
空间$V in C^n$常见范数$varphi(X)$，$X，Y in C^n$：
(1)取$varphi (X) = ||X|{|_2} = sqrt {(X,X)} = sqrt {|{X_1}{|^2} + ... + |{X_n}{|^2}} $，又叫F范数，$"|X|"$。
(2)取$varphi (X)=||X||_{ infty }=max{|X_1|,...,|X_n|}$，叫做最大值范数，又叫“$infty$”范数
(3)取$varphi (X)=|X|_1+...|X|_n$，记为$||X||_1$，叫做”和范数“
(4)取$varphi (X)=(|X|_1^2+...|X|_n^2)^(frac{1}{p})$，记为$||X||_p$，叫做”p范数“
注意：[mathop {lim }limits_{p o infty } ||X|{|_p} = mathop {lim }limits_{p o infty } {({left| {{X_1}} ight|^{frac{1}{p}}} + ... + {left| {{X_n}} ight|^{frac{1}{p}}})^{^{frac{1}{p}}}} = max (left| {{X_1}} ight| + ... + left| {{X_n}} ight|) = ||X|{|_infty }]
向量范数等价定理： $C^n$上任两种范数$||X||_a, ||X||_b$适合：
[{k_1} le frac{{||X|{|_a}}}{{||X|{|_b}}} le {k_2}]
$k_1 < k_2$都是固定整数，称$||X||_a$和||X||_b等价，记为$||X||_a approx ||X||_b$
方阵范数：方阵空间$C^{n imes n}$上一个函数$varphi(A)=||A||$叫一个“方阵范数”，如果适合以下条件：
(1)正性：$||X||>0$且$||X|| Leftrightarrow X=0$
(2)奇性：$||kX||=|k|||X||$
(3)三角形：$||X+Y|| le ||X|| + ||Y||$，推论$| ||X|| - ||Y|| | le ||X-Y||$
(4)次乘性：$||XY|| le ||X|| ||Y||$
$C^{n imes n}$上常见范数(矩阵范数)：$A=(a_{ij})_{n imes n}$：
(1)$varphi(A)=||A||_1=max{L_1,...,L_n}$叫列范数，其中$L_i$是第i列的绝对值之和
(2)$varphi(A)=||A||_{infty }=max{L_1,...,L_n}$叫行范数，其中$L_i$是第i行的绝对值之和
(3)$varphi (A) = ||A|{|_F} = sqrt {sum {{{left| {{a_{ij}}} ight|}^2}} } $，叫做F范数
(4)$varphi (A) = ||A|{|_M} = sum {left| {{a_{ij}}} ight|} $
(5)$varphi(A)=||A||_G=n max{|a_ij|}$
(6)$varphi(A)=||A||_2$=最大奇异值
方阵范数等价定理： $C^{n imes n}$上任两种范数$||X||_a, ||X||_b$适合：
[{k_1} le frac{{||X|{|_a}}}{{||X|{|_b}}} le {k_2}]
$k_1 < k_2$都是固定整数，称$||X||_a$和$||X||_b$等价，记为$||X||_a approx ||X||_b$
谱半径：$ ho (A) = max { left| {{lambda _1}} ight|,...,left| {{lambda _n}} ight|} A=A_{n imes n} $
性质：
(1)$ ho (A) ge 0$
(2)$ ho (kA) = left| k ight| ho (A)$
(3)$ ho ({A^p}) = ho {(A)^p}$
谱范不等式：$ ho (A) le ||A||$ ，$|| cdot ||$为任意方阵范数。
证明：
[ ho (A) = |{lambda _1}|]
[AX = {lambda _1}X]
令$B=[X X ... X]$：
[AB = Aleft[ {egin{array}{*{20}{c}}
{{X_1}}&{{X_2}}&{...}&{{X_n}}
end{array}}
ight] = left[ {Aegin{array}{*{20}{c}}
{{X_1}}&{A{X_2}}&{...}&{A{X_n}}
end{array}}
ight] = {lambda _1}left[ {egin{array}{*{20}{c}}
{{X_1}}&{{X_2}}&{...}&{{X_n}}
end{array}}
ight] = {lambda _1}B]
[{ m{||}}{lambda _1}B{ m{|| = = |}}{lambda _1}|||B|| = { m{||}}AB{ m{||}} le ||A||||B||]
[{ m{||}}{lambda _1}B{ m{|| = |}}{lambda _1}|||B|| le ||A||||B|| Rightarrow { m{|}}{lambda _1}{ m{|}} le ||A|| Rightarrow ho (A) le ||A||]
算子范数：已知$||X|||_v$为$C^n$上的一个向量范数，给定$A=A_{n imes n}$，$||AX||_v$在$C^n$上连续，令
[varphi (A) = max { ||AX|{|_v}} (||X|| = 1)]
引理：$||Y||$为任意$C^n$上向量，有${left| {AY} ight|_v} le varphi (A){left| Y ight|_v}$
[{left| {Afrac{Y}{{left| Y ight|}}} ight|_v} = frac{{{{left| {AY} ight|}_v}}}{{{{left| Y ight|}_v}}} le max { {left| {AX} ight|_v}} (left| X ight| = 1) = varphi (A) Rightarrow {left| {AY} ight|_v} le varphi (A){left| Y ight|_v}]
可以证明，算法范数满足方阵范式性质：
(1)正性：$varphi (A) > 0$，$varphi (A) = 0 Leftrightarrow A=0$
(2)奇性：$varphi (kA)=|k| varphi (A)$
(3)三角性质：$varphi (A+B) le varphi (A) + varphi (B)$
(4)次乘性：$varphi (AB)= varphi (A) varphi (B)$
常见算子范数：
(1)$||X||_1$导出$varphi (A)=max{||AX||_{1}}(||X||_1=1)=||A||_1$
(2)$||X||_{infty}$导出$varphi (A)=max{||AX||_{infty}}(||X||_{infty}=1)=||A||_{infty}$
(3)$||X||_2$导出$varphi (A)=max{||AX||_{2}}(||X||_2=1)=||A||_2$
定理1：任意算子范式$left| cdot ight|$，必有$left| {{I_n}} ight|=1$：
定理2：方阵范数$left| cdot ight|$，必有$left| {{I_n}} ight| ge 1$：
推论：$left| {{I_n}} ight| > 1 Rightarrow left| cdot ight|$不是算子范数。
引理：若$left| cdot ight|$为$C^{n imes n }上的方阵范数$，P为可逆阵，令$varphi (A)=||P^{-1}AP||$，则$varphi (A)$为$C^{n imes n}$上一个新范数。
小范数定理：固定一个方阵A与小正数$varepsilon $，则存在一个方阵范数${left| cdot ight|_varepsilon }$，使得
[{left| A ight|_varepsilon } le ho (A) + varepsilon ]
推论：若$ ho (A) < 1$，则存在小范数${left| cdot ight|_varepsilon }$，使得：
[{left| A ight|_varepsilon } < 1]