1.3 统计学习方法三要素

2022.08.27 李航老师《统计学习方法》： 一. 统计学习及监督学习概论
#本文目的就是为学者简化学习内容，提取我认为的重点 把书读薄
1
2

一. 统计学习及监督学习概论

1.3 统计学习方法三要素

1.3.1 模型

就是我们前面提到的决策函数 $Y=g(X)$、条件概率分布 $P(Z|X)$、概率模型估计$P(X|Z)$

1.3.2 策略

我们重点讲一下策略问题

定义：策略就是以什么标准来学习或者优化模型。

• 损失函数：模型一次预测的好坏。切记1次

1. 就是你预测出来的和标准答案之间，有多少差距；
2. 这种差距，有很多种计算方式：0-1损失函数、平方损失函数、绝对损失函数、对数损失函数
3. 损失函数值越小，模型就越好；
1
2
3

• 风险函数(risk function)或期望损失（expected loss): 学习的目标就是选择期望风险最小的模型

  R e x p ( f ) = E p [ L ( Y , f ( x ) ) ] = ∫ X × Y L ( y , f ( x ) ) P (