逻辑回归整理复习

此篇基于本人理解所写，如有错误，欢迎指出并探讨

划重点：（1）逻辑回归=线性回归函数+sigmoid函数

             （2）虽然名字中有回归两字，但是实际解决的是分类问题【二分类/多分类 均可】

1.  线性回归函数

  线性回归函数即参数为一次方的函数，其图像在二维平面坐标系中呈直线型。不限定x取值范围情况下，y的取值范围为负无穷~正无穷。

2. Sigmoid函数

  乍一听非常高端，“哎呀怎么又是什么函数，烦死啦”，不过不要慌，对于sigmoid函数只需要记住一件事——它可以将负无穷~正无穷范围内的数变为（0，1）范围。如下图

  其表达式为 y=1/(1+e^-(x))

  本身x的范围是负无穷~正无穷，但是经过sigmoid函数的变化，x的范围就被变成了y轴上的（0，1）。联想一下上一段线性回归函数的内容——【不限定x取值范围情况下，y的取值范围为负无穷~正无穷】，如果将线性回归得到的无穷范围内的y值，作为sigmoid函数的输入项x的话，就能够通过在线性回归中输入各种特征值而最后得到一个（0，1）范围内的数，我们把它叫做——概率，即用于判断物体所属类别可能性的概率值。【sigmoid函数仅适用于二分类情况获取概率值】

3. 逻辑回归参数求解

（1）极大似然估计方法【待补充】

  极大似然估计概念不做赘述，一句话简单概括——从概率角度出发，找到使该事件发生可能性最大的参数值。

（2）交叉熵方法【待补充】

  在进行参数求解前，需要首先考虑参数依照什么样的要求进行求解，这个条件，就是损失函数（loss function）。