逻辑回归整理复习

此篇基于本人理解所写,如有错误,欢迎指出并探讨

划重点:(1)逻辑回归=线性回归函数+sigmoid函数

             (2)虽然名字中有回归两字,但是实际解决的是分类问题【二分类/多分类 均可】

1.  线性回归函数

  线性回归函数即参数为一次方的函数,其图像在二维平面坐标系中呈直线型。不限定x取值范围情况下,y的取值范围为负无穷~正无穷

2. Sigmoid函数

  乍一听非常高端,“哎呀怎么又是什么函数,烦死啦”,不过不要慌,对于sigmoid函数只需要记住一件事——它可以将负无穷~正无穷范围内的数变为(0,1)范围。如下图

  其表达式为 y=1/(1+e-(x))

  本身x的范围是负无穷~正无穷,但是经过sigmoid函数的变化,x的范围就被变成了y轴上的(0,1)。联想一下上一段线性回归函数的内容——【不限定x取值范围情况下,y的取值范围为负无穷~正无穷】,如果将线性回归得到的无穷范围内的y值,作为sigmoid函数的输入项x的话,就能够通过在线性回归中输入各种特征值而最后得到一个(0,1)范围内的数,我们把它叫做——概率,即用于判断物体所属类别可能性的概率值。【sigmoid函数仅适用于二分类情况获取概率值】

3. 逻辑回归参数求解

(1)极大似然估计方法【待补充】

  极大似然估计概念不做赘述,一句话简单概括——从概率角度出发,找到使该事件发生可能性最大的参数值。

(2)交叉熵方法【待补充】

  在进行参数求解前,需要首先考虑参数依照什么样的要求进行求解,这个条件,就是损失函数(loss function)

posted @ 2022-04-04 10:53  不知天高地厚的小可爱  阅读(66)  评论(0编辑  收藏  举报
1