【学习笔记】《模式识别》4：贝叶斯判别准则

贝叶斯判别准则

一、研究对象及相关概率

1. 两类研究对象

获取模式的观察值时，有两种情况：

• 确定性事件：事物间有确定的因果关系；
• 随机事件：事物间没有确定的因果关系，观察到的特征具有统计特性，是一个随机向量。只能利用模式集的统计特性进行分类，使分类器发生分类错误的概率最小。

2.概率

3. 条件概率

4. 模式识别中的三个概率

5. 两对条件概率的区别

二、贝叶斯决策

1.最小错误率贝叶斯决策

（1） 采用后验概率P(ω_i| X)能确定X属于哪一类；

2. 最小风险贝叶斯决策

（1）风险

不同的错判造成的损失不同，因此风险不同。考虑到对某一类的错判要比对另一类的错判更为关键，把最小错误率的贝叶斯决策做了修改，提出了条件平均风险的概念。

（2）基本思想

以各种错误分类所造成的平均风险最小为准则，进行分类决策。

3. (0-1)损失最小风险贝叶斯决策

4.正态分布模式的贝叶斯决策

计算题总结
对应例题4.3，很复杂！

三、贝叶斯分类器的错误概率