深度学习之损失函数的介绍【详解】

1、Cross Entropy Loss（交叉熵）

公式：
$$L=-\sum _i{y}_i\cdot log(p_i)$$

其中 $y_i$ 为人工标注的，$p_i$ 为预测的概率；

2、Binary Cross Entropy Loss（二元交叉熵）

公式：
$$H_{p(q)}=-\frac{1}{N}[\sum _{i=1}^N{y}_i\cdot log(p(y_i))+(1-y_i)\cdot log(1-p(y_i))]$$
$[]$里面表示的是单个样本分别预测正样本和负样本的概率。

3、Balance Binary Cross Entropy Loss（平衡二元交叉熵）

目的：解决正负样本不平衡的问题。

4、Focal Loss

$(1-p{)}^{\gamma }$用于难样本的挖掘，如一个样本预测正样本的概率较低，则$(1-p{)}^{\gamma }$会加大正样本的权重，$p^{\gamma }$会减少负样本的权重；