矩阵分析与应用 - 码农知识堂

矩阵分析与应用
矩阵的范数与内积

实矩阵 $A\in R^{m\times n}$ 的范数记作 $\left \| A \right \|$ ，它是矩阵A的实值函数，必须具有以下性质：
1. 对于任何非零矩阵 $A\neq 0$ ，其范数大于零，即 $\left \| A \right \|> 0$ ，并且 $\left \| 0 \right \|=0$ 。
2. 对于任何复数c有 $\left \| cA \right \|=|c|\left \| A \right \|$ 。
3. 矩阵范数满足三角不等式 $\left \| A+B \right \|\leqslant \left \| A \right \|+\left \| B \right \|$
4. 两个矩阵乘积的范数小于或等于两个矩阵范数的乘积，即 $\left \| AB\right \|\leqslant \left \| A \right \|\left \| B \right \|$ 。
实函数 $f(A)=\sum_{i=1}^{n}\sum_{j=1}^{n}|a_{ij}|$ 是一种矩阵范数。

举例： $A=\begin{bmatrix} 1 & -2 &0 \\ 2& 0& 1\\ 1 & 1 & 1 \end{bmatrix}$ ，则有

容易验证：

（1） $f(A)\geqslant 0$ ，且当即 $a_{ij}=0$ 时。

（2） $f(cA)=\sum_{i=1}^{n}\sum_{j=1}^{n}|ca_{ij}|=|c|\sum_{i=1}^{n}\sum_{j=1}^{n}|a_{ij}|=|c |f(A)$

（3） $f(A+B)=\sum_{i=1}^{n}\sum_{j=1}^{n}|a_{ij}+b_{ij}|\leqslant \sum_{i=1}^{n}\sum_{j=1}^{n}(|a_{ij}|+|b_{ij}|)=f(A)+f(B)$

（4）对于两个矩阵的乘积，有：

$f(AB)=\sum_{i=1}^{n}\sum_{j=1}^{n}\left | \sum_{k=1}^{n}a_{ik}b_{kj}\right |\\\leqslant \sum_{i=1}^{n}\sum_{j=1}^{n}\sum_{k=1}^{n}|a_{ik}||b_{kj}|\\\leqslant \sum_{i=1}^{n}\sum_{j=1}^{n}\left (\sum_{k=1}^{n}|a_{ik}|\sum_{l=1}^{n}|b_{kl}| \right )\\=f(A)f(B)$

以下是几种典型的矩阵范数

Frobenius范数

$\left \| A \right \|_{F}=\left ( \sum_{i=1}^{n}\sum_{j=1}^{n}|a_{ij}|^{2} \right )^{1/2}$

这一定义可以视为向量的Euclidean范数按照矩阵各行排列的“长向量”

$x=[a_{11},.. .,a_{1n},a_{21},.. .,a_{2n},.. .,a_{m1},.. .a_{mn}]$

的推广。矩阵的Frobenius范数也称Euclidean范数或者 $l_{2}$ 范数

举例： $A=\begin{bmatrix} 1 & -2 &0 \\ 2& 0& 1\\ 1 & 1 & 1 \end{bmatrix}$ ,则有 $\left \| A \right \|_{F}=(1+4+0+4+0+1+1+1+1)^{1/2}=\sqrt{13}$

$l_{p}$ 范数

$\left \| A \right \|_{p}=\max_{x\neq 0}\frac{\left \| Ax \right \|_{p}}{\left \| x \right \|_{p}}$

式中， $\left \| x \right \|_{p}$ 是向量x的 $l_{p}$ 范数， $l_{p}$ 范数也称p范数。

行和范数

$\left \| A \right \|_{row}=\max_{1\leqslant i\leqslant m}\left \{ \sum_{j=1}^{n}|a_{ij}| \right \}$

举例： $A=\begin{bmatrix} 1 & -2 &0 \\ 2& 0& 1\\ 1 & 1 & 1 \end{bmatrix}$ ,则 $\left \| A \right \|_{row}=\max\left \{ (1+2+0),(2+0+1),(1+1+1) \right \}=3$

列和范数

$\left \| A \right \|_{col}=\max_{1\leqslant j\leqslant n}\left \{ \sum_{i=1}^{m}|a_{ij}| \right \}$

举例： $A=\begin{bmatrix} 1 & -2 &0 \\ 2& 0& 1\\ 1 & 1 & 1 \end{bmatrix}$ ，则 $\left \| A \right \|_{col}=\max\left \{ (1+2+1),(2+0+1),(0+1+1) \right \}=4$

若A，B是m*n的矩阵，则矩阵的范数有以下性质。

$\left \| A+B \right \|+\left \| A-B \right \|=2\left ( \left \| A \right \| ^{2}+\left \| B \right \|^{2}\right )$

$\left \| A+B \right \|\left \| A-B \right \|\leqslant \left \| A \right \| ^{2}+\left \| B \right \|^{2}$

与矩阵的范数密切相关的量是矩阵的内积。对于任意m*n的复矩阵A和B，矩阵的内积记作 $\left \langle A,B \right \rangle$ ，定义为： $\left \langle A,B \right \rangle=A^{H}B$

以下是矩阵的内积和范数之间的关系。

1.Cauchy-Schwartz不等式

$\left | \left \langle A,B \right \rangle \right |^{2}\leqslant \left \| A \right \|^{2}\left \| B \right \|^{2}$

当且仅当A=cB时（其中c为某个复常数），等号成立。

2.Pathagoras定理

$\left \langle A,B\right \rangle=0\Rightarrow \left \| A+B \right \|^{2}=\left \| A \right \|^{2}+\left \| B \right \|^{2}$

3.极化恒等式

$Re\left ( \left \langle A,B \right \rangle \right )=\frac{1}{4}\left ( \left \| A+B \right \|^{2}- \left \| A-B \right \|^{2} \right )$

$Re\left ( \left \langle A,B \right \rangle \right )=\frac{1}{2}\left ( \left \| A+B \right \|^{2}- \left \| A \right \|^{2} - \left \| B\right \|^{2} \right )$

其中Re（）表示取复数的实部。
相关阅读:
Ubuntu文件操作（压缩与解压缩、用户组管理、权限）
【原型详解】JavaScript原型链：深入了解Prototype，超级详细！！！
objection 基础案例一
 VBA实现关闭Excel自动计算，关闭屏幕刷新
 InputMethodManagerService启动-Android12
JupyterLab使用指南(四):JupyterLab的Magic 命令
 如何构建一篇高分IB数学IA？
2.2 Pthreads是什么
 《protobuf》基础语法
 详解设计模式：工厂方法模式
原文地址：https://blog.csdn.net/weixin_46007132/article/details/125508030