经验风险最小化与极大似然估计概念

1.通俗解释极大似然估计（Maximum Likelihood Estimation, MLE）

来自：如何通俗地理解概率论中的「极大似然估计法」? - 知乎

最大似然估计是参数估计的最常用方法。

所谓参数估计就是我们手头上有一组样本，而且我们知道这些样本是从某一个具体分布中采样得到，但是分布的参数我们不知道，MLE就是一个用来确定参数的最优化过程。参数一旦确定，分布就完全确定。例如，我们是生产灯泡的厂家，我们知道灯泡的寿命是服从正态分布的，即寿命聚集在一个平均值上下随机浮动，形如 μ±σ的样子（如 小时10000±10小时），其中 μ为平均寿命， σ 为浮动值。我们需要把 μ和 σ确定下来作为技术指标贴在灯泡的盒子上。为了达到上述的目的，我们拿了100个灯泡在实验室日夜点亮，直到“寿终正寝”。记录100个寿命，我们就可以用MLE来估算上面的μ和 σ。（当然，MLE不是参数估计的唯一方法）