线性代数学习笔记5-4：点积、叉积与线性变换、线性空间理论与傅里叶级数的内在关系

点积与线性变换

点积标准定义

• 计算式：$\vec{x}\cdot \vec{y}=[a,b]\cdot [c,d{]}^T=ac+db$
• 几何意义：$\vec{x}\cdot \vec{y}=|\vec{x}||\vec{y}|cos<\vec{x},\vec{y}>$（投影到一条线，然后长度相乘）

前置知识：非方阵与线性变换

之前只讨论了方阵对应的线性变换，但对于非方阵也是相同的道理：
比如一个3x2的矩阵

• 它有两列，代表变换前的基向量只有两个
• 每个列向量有三行，代表变换之后的基向量，其坐标是三维的（变换后的基向量用三个独立坐标来描述）

注意，这里不要认为是从二维到三维的“升维”：

1. 函数（映射）不可能做到升维（一对多），而是应该将原来的二维坐标系视为“三维空间的子空间”（在三维空间中描述的一个二维空间）
2. 考察这个矩阵的列空间（见后续文章），由于变换后仍只有两个线性无关的基向量，故列空间是（三维空间中的）二维平面，也因此，这个矩阵是满秩的（线性变换后空间没有被压缩，输入空间的维数=列空间的维数）

同理，一个2x3的矩阵就代表三维空间到二维空间的变换（这里则可以理解为压缩降维，类似于投影的计算）

再进一步，一个1x2的矩阵将二维平面压缩到一维直线上，这里可以和“点积”的投影结合理解（点积对应$[1,0]$矩阵）

从线性变换的角度理解点积

考虑对于从二维空间到数轴的线性变换（压缩投影）

• 本质上，我们用1×2的矩阵来代表这个线性变换（矩阵中的数值仍然是通过基向量i和j投影到该数轴上的坐标来给出的，但由于对称性，可以证明该数值也等于该向量在i和j轴上的投影坐标）
• 又因为“矩阵向量乘积”（1×2的矩阵左乘向量）的计算，等效为“转置矩阵并求点积”（两个列向量对应坐标相乘相加）

也就是说，对于任何二维到一维的线性变换，在某种程度上，“应用变换”和“与向量v做点积”是等价的，而这个v向量恰好就是矩阵的转置（几何意义就是做投影）

在这里我们把向量看做线性变换的物质载体（向量仿佛是线性变换的概念性符号）。毕竟，想象从向量到向量的投影，比想象到空间中整个坐标系的变换更加容易

叉积与线性变换

叉积标准定义

假设$\vec{x}=[a,b{]}^T$,$\vec{y}=[c,d{]}^T$
叉积的结果$\vec{x}\times \vec{y}$是一个向量，该向量的方向与前两个向量组成的平面垂直，并且默认满足右手定则，但大小可正可负（负值则方向反向），大小的计算如下：

• 向量计算式： x ⃗ × y ⃗ = d e t ( [ i ⃗ a c j ⃗ b d k ⃗ 0 0 ] ) = d e t ( [ i ⃗ j ⃗ k ⃗ a b 0 c d 0 ] ) \vec x\times \vec y=det(
  [i→acj→bdk→00]" role="presentation" style="position: relative;">⎡⎣⎢⎢i⃗ j⃗ k⃗ ab0cd0⎤⎦⎥⎥$$\left[\begin{array}{ccc}\overrightarrow{i}& a& c\\ \overrightarrow{j}& b& d\\ \overrightarrow{k}& 0& 0\end{array}\right]$$
  )=det(
  [i→j→k→ab0cd0]" role="presentation" style="position: relative;">⎡⎣⎢i⃗ acj⃗ bdk⃗ 00⎤⎦⎥$$\left[\begin{array}{ccc}\overrightarrow{i}& \overrightarrow{j}& \overrightarrow{k}\\ a& b& 0\\ c& d& 0\end{array}\right]$$
  ) x ×y ​=det(⎣ ⎡​i j ​k ​ab0​cd0​⎦ ⎤​)=det(⎣ ⎡​i ac​j ​bd​k 00​⎦ ⎤​)
  （方阵才有行列式，需要将二维向量视为三维向量）
• 大小计算式： ∣ x ⃗ × y ⃗ ∣ = ∣ d e t ( [ a c b d ] ) ∣ |\vec x\times \vec y|=|det(
  [acbd]" role="presentation" style="position: relative;">[abcd]$$\left[\begin{array}{cc}a& c\\ b& d\end{array}\right]$$
  )| ∣x ×y ​∣=∣det([ab​cd​])∣

ps. 行列式意义是线性变换后的区域面积缩放比例，我们考虑1x1的正方形，认为基向量$\vec{i}$和$\vec{j}$变换后的结果是$\vec{x}$和$\vec{y}$（并将其作为列向量构成矩阵），那么矩阵的行列式就是面积缩放比例，也就是$\vec{x}$和$\vec{y}$张成的区域面积
另外，由于行列式可以为负，叉积同样可以为负，这里就再次涉及到空间的“定向”问题（向量之间是否满足右手定则）

• 几何意义：$|\vec{x}\cdot \vec{y}|=|\vec{x}||\vec{y}|sin<\vec{x},\vec{y}>$（两向量张成的区域的面积）

线性空间理论与傅里叶级数的内在关系

下面将看到，如果将复指数信号作为一组标准正交基，傅里叶变换就是求任意信号$x(t)$在这组标准正交基下的坐标

其核心要点在于正交基的概念：任意向量在标准正交基下的坐标，就是该向量对于标准正交基向量做投影 / 或者说向量和标准正交基向量做内积

前置知识：标准正交基下的投影（坐标）问题

给出一组标准正交基（对应复指数信号）${\mathbf{q}}_1,{\mathbf{q}}_2\dots \dots .{\mathbf{q}}_n$，那么任意向量（对应一个信号）可以表示为$$\mathbf{v}=x_1{\mathbf{q}}_1+x_2{\mathbf{q}}_2+\dots +x_n{\mathbf{q}}_n$$并且，其中的坐标（${\mathbf{q}}_i$项的系数$x_i$）很容易求出：用${\mathbf{q}}_i$与上式做内积即可，对于标准正交基而言${\mathbf{q}}_i^T{\mathbf{q}}_j=0(i\ne j)$，那么得到 q i T v = x 1 q i T q 1 + x 2 q i T q 2 + … + x n q i T q n = x i = 0 + 0 + . . . + x i + . . . + 0

qiTv=x1qiTq1+x2qiTq2+…+xnqiTqn=xi=0+0+...+xi+...+0" role="presentation" style="position: relative;">qTiv=x1qTiq1+x2qTiq2+…+xnqTiqn=xi=0+0+...+xi+...+0$$\begin{array}{rl}{\mathbf{q}}_i^T\mathbf{v}& =x_1{\mathbf{q}}_i^T{\mathbf{q}}_1+x_2{\mathbf{q}}_i^T{\mathbf{q}}_2+\dots +x_n{\mathbf{q}}_i^T{\mathbf{q}}_n=x_i\\ & =0+0+...+x_i+...+0\end{array}$$

qiT​v​=x1​qiT​q1​+x2​qiT​q2​+…+xn​qiT​qn​=xi​=0+0+...+xi​+...+0​

上面的问题，用矩阵来描述，就是：

任意向量$\mathbf{v}$可以表示为 v = [ q 1 ⋯ q n ] [ x 1 ⋮ x n ] = Q x \mathbf{v}=\left[

\right] \left[\right] =\mathbf{Q} \mathbf{x} v=[q1​​⋯​qn​​]⎣ ⎡​x1​⋮xn​​⎦ ⎤​=Qx其中，$\mathbf{Q}$为正交矩阵（性质是${\mathbf{Q}}^{-1}={\mathbf{Q}}^T$），其列向量就是一组标准正交基

$\mathbf{v}$在这组标准正交基下的坐标（${\mathbf{q}}_i$项的系数$x_i$）为：（意义是，分别用每个标准正交基向量与信号做内积，可以“过滤”到其他成分，留下信号的坐标$x_i={\mathbf{q}}_i^T\mathbf{v}$） x = [ x 1 ⋮ x n ] = Q − 1 v = Q T v \mathbf x=\left[

\right]=\mathbf{Q}^{-1} \mathbf{v}=\mathbf{Q}^{T} \mathbf{v} x=⎣ ⎡​x1​⋮xn​​⎦ ⎤​=Q−1v=QTv

傅里叶级数

接下来，只要：

• 将上面的$\mathbf{v}$推广到函数$x(t)$；
• 将标准正交基（${\mathbf{q}}_1,{\mathbf{q}}_2\dots \dots .{\mathbf{q}}_n$）推广为正交函数（$cos\omega t$）；
• 将离散向量的内积（点积）推广为连续函数的内积（乘积积分，对于周期函数积分限$0\sim 2\pi$），

即可得到傅里叶级数概念
（注意，在连续情况下，由于空间是无穷维的，有无穷个正交基向量）

对于任意周期信号$f(x)$，可分解为正交基的线性组合$$f(x)=a_0+a_1\cos x+b_1\sin x+a_2\cos 2x+b_2\sin 2x+\cdots$$

唯一要注意的是，这里并不是标准正交基，只是普通的正交基，因为正交基与自身的内积为${\int }_0^{2\pi }{\cos }^{2}xdx=\pi$，导致了${\int }_0^{2\pi }f(x)\cos xdx=a_1\pi$
故真正的“坐标”$a_1$应该[做内积并除以系数$\pi$]得到：$$a_1=\frac{1}{\pi }{\int }_0^{2\pi }f(x)\cos xdx$$