矩阵分析与应用 - 码农知识堂

矩阵分析与应用
向量的内积与范数

根据元素的取值方式的不同，向量分为常数向量，函数向量和随机向量。常数向量是元素为常数的向量；函数向量是元素取某个变量的函数值的向量；而随机向量则是元素为随机变量的向量。

虽然常数向量，函数向量和随机向量的内积定义公式有所不同，但是无论向量取何种形式，向量的内积和范数都必须服从一定的公理。

由于实向量是复向量的特例，因此以下以复向量作为讨论对象，并用R与C表示实数域和复数域。

令V为复向量空间，函数 $\left \langle x,y \right \rangle :V\times V \mapsto C$ 称为向量x和y的内积，对所有 $x,y,z\in V$ ，满足以下内积公理：
1. $\left \langle x,x \right \rangle\geq 0$
2. $\left \langle x,x \right \rangle= 0$ ,当且仅当x=0时
3. $\left \langle x+y,z \right \rangle=\left \langle x+z\right \rangle+\left \langle y+z \right \rangle$
4. $\left \langle cx,y \right \rangle=c^{*}\left \langle x,y \right \rangle$ ，其中*表示复数共轭。
5. $\left \langle x,y \right \rangle=\left \langle y ,x\right \rangle^{*}$ ，其中*表示复数共轭。
令V为复向量空间，函数 $\left \| x \right \|:V \mapsto R$ 称为向量x的范数，对所有 $x,y\in V$ ，下面的范数公理成立：
1. $\left \| x \right \|\geqslant 0$
2. $\left \| x \right \|=0$ ,当且仅当x=0时
3. $\left \| cx \right \|=|c|\left \| x \right \|$
4. $\left \| x+y \right \|\leqslant \left \| x \right \|+\left \| y \right \|$
常数向量的内积与范数：

两个m*1维常数向量 $x=[x_{1},x_{2},.. .x_{m}]^{T}$ 和 $y=[y_{1},y_{2},.. .y_{m}]^{T}$ 的内积（或叫点积）定义为：

$\left \langle x,y \right \rangle=x^{H}y=\sum_{i=1}^{m}x_{i}^{*}y_{i}$

两个向量之间的夹角定义为：
$cos\theta =\frac{\left \langle x,y \right \rangle}{\sqrt{\left \langle x,x \right \rangle}\sqrt{\left \langle y,y \right \rangle}}=\frac{x^{H}y}{\left \| x \right \|\left \| y \right \|}$

若 $x^{H}y=0$ ，则 $\theta =\frac{\pi }{2}$ ，此时称常数向量x与y正交。

若两个常数向量的内积等于0，则称为正交，即 $x^{H}y=0$ ，记作 $x\perp y$ 。零向量0与同一空间的任何向量都正交。

下面是几种常用的向量范数。

1. $l_{1}$ 范数，也叫范数或1范数。

$\left \| x \right \|_{1}=\left | \sum_{i=1}^{m} x_{i} \right |=|x_{1}|+|x_{2}|+.. .+|x_{m}|$

2. $l_{2}$ 范数,这一范数常称Euclidean范数，有时也称Frobenius范数。

$\left \| x \right \|_{2}=(|x_{1}|^{2}+|x_{2}|^{2}+.. .+|x_{m}|^{2})^{\frac{1}{2}}$

3. $l_{\infty}$ 范数,也称无穷范数或极大范数。

$\left \| x \right \|_{\infty}=max(|x_{1}|,|x_{2}|,.. .,|x_{m}|)$

4. $l_{p}$ 范数.

$\left \| x \right \|_{p}=\left ( \sum_{i=1}^{m}|x_{i}|p \right )^{\frac{1}{p}}$

当p=2时， $l_{p}$ 范数与Euclidean范数完全等价。

无穷范数是 $l_{p}$ 范数的极限形式，即有：
$\left \| x \right \|_{\infty}=\lim_{p\rightarrow \infty}\left ( \sum_{i=1}^{m}|x_{i}|p \right )^{\frac{1}{p}}$

假定向量x和y有共同的起点，它们的端点分别为x和y，则 $\left \| x-y \right \|_{2}$ 度量两个向量x，y两个端点之间的标准Euclidean距离。特别的，非负的标量 $\left \langle x,x \right \rangle^{\frac{1}{2}}$ 称为向量x的Euclidean长度。Euclidean长度为1的向量叫做归一化向量。

对于任何不为零的向量 $x \in C^{m}$ ，向量 $x/\left \langle x,x \right \rangle^{\frac{1}{2}}$ 都是归一化的，并且它与x同方向。

常数向量W和V的外积（又叫叉积）记作 $wv^{H}$ ,定义为:
$wv^{H}=\begin{bmatrix} w_{1}v_{1}^{*} & w_{1}v_{2}^{*} & .. .& w_{1}v_{m}^{*} \\ w_{2}v_{1}^{*} &w_{2}v_{2}^{*} & .. . &w_{2}v_{m}^{*} \\ .. . &.. . & &.. . \\ w_{m}v_{1}^{*} & w_{m}v_{2}^{*} & .. . & w_{m}v_{m}^{*} \end{bmatrix}$
相关阅读:
kali中文输入法
 puppeteer在mac和linux上表现不一致的问题记录
 【WhatsApp营销】如何将WhatsApp与品牌的社交媒体营销相结合
 python函数（8）：异常处理机制+模块
 Ansible角色定制实例
 std::thread::id如何转换为字符串或整数
 【自然语言处理】【大模型】RWKV：基于RNN的LLM
【附源码】计算机毕业设计SSM特大城市地铁站卫生防疫系统
 8年经验之谈 —— 记一次接口压力测试与性能调优！
C++ 类、对象、模板相关选择题、填空题
原文地址：https://blog.csdn.net/weixin_46007132/article/details/125411826