人工智能基础_机器学习041_Sigmoid函数详解_Sigmoid损失函数推导_最大似然函数推导---人工智能工作笔记0081

然后我们再来看一下sigmoid函数的推导过程,可以看到首先我们把

sigmoid的函数写成两种情况

可以看到P(y|x;theta) = htheta(x), y=1 这个时候y=1 也就是是一种分类,然后另一种,就是相减,

是1-htheta(x)

可以看到,把两个公式河道一起就得到了下面的概率公式. 这里是有关概率论中的一些东西,如果想很清楚需要学习一下,但是不影响我们使用.

可以看到得到的逻辑回归表达式.

然后我们再来看,最后我们得到了似然函数表达式.

可以看到似然函数的表达式我们把似然函数表达式写开

可以看到就是最下面的这个公式

然后上面的似然函数是连乘的方式,那么,连乘的计算非常困难,所以我们可以转换为

连加,也就是通过对数,把连乘转换城连加,可以看到,求对数就是求ln,把指数拿下来,

得到下面的公式

可以看到,这个公式化简,通过,对数转换成连加,就