现代信号处理——其他谱估计方法（最大熵谱估计）

一、最大熵谱估计

估计思想：采用最大熵原则，外推自相关函数方法估计信号功率谱。它基于将已知的有限长度自相关序列以外的数据用外推的方法求得，而不是把它们当作是零。

已知{R(0)，R(1)，......，R(p)}，求得R(p+1)，R(p+2)，......

保证外推后自相关矩阵正定，自相关序列所对应的时间序列应具有最大熵，在具有已知的p+1个自相关取样值的所有时间序列中，该时间序列是最随机，最不可预测的，谱是最平坦的，最均匀的。

1、利用最大熵的原则外推自相关函数

按照Shannon对熵的定义，当随机变量X取离散值时，熵的定义为

式中pi是出现状态i的概率。当X取连续值时，熵的定义为 

式中，p(x)是X的概率密度函数。 

假设x(n)是零均值正态分布的平稳随机序列，它的N维高斯概率密度函数为

先讨论一维高斯分布的信号的熵，然后推广到N维。 

 同理可求得N维高斯分布信号的熵为

式中det(R(N))表示矩阵R(M)的行列式，由上式表明为使熵最大，要求det(R(N))最大。 

 

 

 ​​

 

 用数学归纳法，得到

 

上式是Rxx（N+1)的一次函数，可以解出Rxx(N+1)。以此类推，可推出任意多个其它自相关函数值，而不必假设它们为零，这就是最大熵谱估计的基本思想。 随着外推次数的增加，误差会逐渐上升。

2、最大熵谱估计与AR模型谱估计的等价性

AR模型信号自相关函数与模型参数服从Yule-Walker方程 

 

 如果从N个线性方程中解得的N个AR参数a1，a2，……，aN值，代入上式并将其整理成行列式的形式，即可得

这就证明了信号为高斯分布时，AR模型功率谱估计和最大熵谱估计的等价性。

通过解Yule-Walker方程，解出模型参数，最大熵谱估计用下式计算信号功率谱： 

参考视频：

https://www.bilibili.com/video/BV1wS4y1D7ng?p=7&vd_source=77c874a500ef21df351103560dada737