第一章 矩阵与线性方程组（十五）

1.向量的范数举例

若有一个向量$a=[-3,8,6,-1]$
则：

• $L_0$范数为向量中非0向量的个数，则$||a|{|}_0=4$。
• $L_1$范数为向量中每个元素绝对值之和，即$||a|{|}_1={\sum }_{i=1}^n|a_i|$，则$||a|{|}_1=18$。
• $L_2$范数为向量中每个元素绝对值的平方之和再开方，即$||a_2||=\sqrt{{\sum }_{i=1}^n|a_i{|}^2}$，则$||a|{|}_2=\sqrt{110}$。
• $L_{\infty }$范数为向量中每个元素绝对值的最大值，即$||a|{|}_{\infty }={\max }_{1\le x\le n}|x_i|$，则$||a|{|}_{\infty }=8$。

2.向量的内积举例

若有向量$a=[3,2,1],b=[1,2,3]$

• 向量的内积（点乘/点积/数量积）就是对两个向量执行点乘运算，即对这两个向量对应位一一相乘之后求和的操作。则$a\cdot b=10$

3.矩阵的范数与内积概念

3.1 性质

作为一种算子，实矩阵$A\in R_{mxn}$的范数记作$||A||$，它是矩阵$A$的实值函数，必须具有以下性质;
(1)对于任何非零矩阵$A\ne O$，其范数大于零，即$||A||$>0，并且||O||=0。
(2)对于任意复数c有$||cA||=|C|||A||$。
(3)矩阵范数满足三角不等式$||A+B||\le ||A||+||B||$。
(4)两个矩阵乘积的范数小于或等于两个矩阵范数的乘积，即$||AB||\le ||A||||B||$。例如 nxn矩阵$A$的实值函数
$$f(A)=\sum _{i=1}^n\sum _{j=1}^n|a_{ij}|$$
易验证:
(1)$f(A)\ge 0$，并且当$A=0$即$a_{ij}\equiv 0$时$f(A)=0$。
(2)$f(cA)={\sum }_{i=1}^n{\sum }_{j=1}^n|c{a}_{ij}|=|c|{\sum }_{i=1}^n{\sum }_{j=1}^n|a_{ij}|=|c|f(A)$
(3)$f(A+B)={\sum }_{i=1}^n{\sum }_{j=1}^n(l{a}_{ij}|+|b_{ij}|)\le {\sum }_{i=1}^n{\sum }_{j=1}^n(|a_{ij}|+|b_{ij}|)=f(A+B)$
(4)对于两个矩阵的乘积，有
$f(AB)$

$={\sum }_{i=1}^n{\sum }_{j=1}^n|{\sum }_{k=1}^n{a}_{ik}{b}_{ik}|$

$\le {\sum }_{i=1}^n{\sum }_{j=1}^n{\sum }_{k=1}^n|a_{ik}||b_{ik}|$

$\le {\sum }_{i=1}^n{\sum }_{j=1}^n({\sum }_{k=1}^n|a_{ik}|{\sum }_{l=1}^n|b_{kl}|)$

$=f(A)f(B)$
因此，实函数$f(A)={\sum }_{i=1}^n{\sum }_{j=1}^n|a_{ij}|$是一种矩阵范数。

3.2几种典型的矩阵范数和举例

若矩阵 A = [ 1 − 1 2 1 2 − 1 3 − 1 2 ] A= \left[

\right] A=⎣⎡​113​−12−1​2−12​⎦⎤​

(1)Frobenius 范数
$$||A|{|}_F=(\sum _{i=1}^n\sum _{j=1}^n|a_{ij}{|}^2{)}^{(1/2)}$$
这一定义可以视为向量的Euclidean范数对按照矩阵各行排列的“长向量”
$x=[a_{11},\dots ,a_{1n},a_{21},\dots ,a_{2n},\dots ,a_{m1},\dots ,a_{mn}{]}^T$
的推广。
矩阵的Frobenius范数也称Euclidean范数、Schur范数、Hilbert-Schmidt范数或者$l_2$范数。
举例
$||A|{|}_F=(|1{|}^2+|-1{|}^2+|2{|}^2+|1{|}^2+|2{|}^2+|-1{|}^2+|3{|}^2+|-1{|}^2+|2{|}^2{)}^{1/2}=(26{)}^{1/2}$
(2)$l_p$范数
$$||A|{|}_p=\underset{x\ne 0}{\max }\frac{||Ax|{|}_p}{||x|{|}_p}$$
式中，$||x|{|}_p$是向量$x$的$l_p$范数。$l_p$范数也称Minkowski p范数，或者简称p范数。
举例
当p=1时，
$||A|{|}_1=max(1+1+3,1+2+1,2+1+2)=5$
(3)行和范数
$$||A|{|}_{row}=\underset{1\le i\le m}{\max }\sum _{j=1}^n|a_{ij}|$$
举例
$||A|{|}_{row}=max(1+1+2,1+2+1,3+1+2)=6$
(4)列和范数
$$||A|{|}_{col}=\underset{1\le j\le n}{\max }\sum _{i=1}^n|a_{ij}|$$
举例
$||A|{|}_{col}=max(1+1+3,1+2+1,2+1+2)=5$