在例10.1中,把数据模型修正为:
其中是WGN,如果,那么方差,如果,那么方差。求PDF 。把它与经典情况PDF 进行比较,在经典的情况下A是确定性的,是WGN,它的方差为:a. ; b.
经典情况下,是WGN,也就是:
而经典情况下,A是确定的,因此可以转换为:
又因为是WGN,属于独立同分布,因此:
因此,经典条件下,表示无条件PDF,可以看成是未知参数的函数,用于参数估计时,也称之为似然函数。
而在贝叶斯情况下,A也是随机变量,且根据题目设定,的方差与A的取值有关,因此两者就不独立了,进一步可以表示为:
因此:
由于在确定条件A下,之间相互独立,因此,联合概率密度也可以直接相乘,进一步可以表示为:
对比可以发现,当时:
但时:
需要进一步注意的是,尽管当时,在函数形式上两者相等,即:,但两者的物理意义是不同的。具体的描述可以参考书(10.7)公式后的描述。
是关于A的函数,即A是个确定性参数,但A有不同取值。是在不同A的取值,这一组取值的概率大小,此时属于无条件PDF。取最大值对应的A,就是极大似然估计下的;
是一种条件概率,即随机变量为A时,的概率大小,此时属于条件PDF。但由于此时随机变量取A的概率还不知道。因此,要在A在不同取值概率的情况下,整体也是关于随机变量A的函数。求该整体最大值对应的A,对应就是MAP估计下的。