逻辑回归损失函数推导
推导过程:
取似然函数为:
对数似然函数为:
最大似然估计就是求使取最大值时的θ,其实这里可以使用梯度上升法求解,求得的θ就是要求的最佳参数。但是,在Andrew Ng的课程中将
取为下式,即
因为乘了一个负的系数-1/m,所以取最小值时的θ为要求的最佳参数
梯度下降法求的最小值
https://blog.csdn.net/pakko/article/details/37878837
推导过程:
取似然函数为:
对数似然函数为:
最大似然估计就是求使取最大值时的θ,其实这里可以使用梯度上升法求解,求得的θ就是要求的最佳参数。但是,在Andrew Ng的课程中将
取为下式,即
因为乘了一个负的系数-1/m,所以取最小值时的θ为要求的最佳参数
梯度下降法求的最小值
https://blog.csdn.net/pakko/article/details/37878837