函数向量的内积与范数
若
和
分别是变量t的函数向量,则它们的内积定义为:

其中,变量t在[a,b]取值,且a<b。变量t可以是时间变量、频率变量或者空间变量。
两个函数向量的夹角定义为:

式中,
是函数向量的范数,定义为:

显然,若两个函数向量的内积等于零,即

则
。此时称两个函数向量正交,并记作
随机向量的内积与范数
若
和
分别是样本变量
的随机向量,则它们的内积定义为:

其中,样本变量
可以是时间,圆频率,角频率和空间变量等。
随机向量
的范数定义为:
与常数向量和函数向量的情况不同,若
的任意元素与的任意元素正交,则m*1随机向量
和n*1随机向量
称为正交。这意味着,两个向量的互相关矩阵为零矩阵
,即

并记作
Cauchy-Schwartz不等式:
仅当
或
或
时等号成立。
平行四边形法则:

Pythagorean定理:
若
,则
证明:由范数公理知:

由于x和y正交,所以
。
又由内积公理
知。将这一结果代入上式可得:
即命题得证。