逻辑回归

逻辑回归与多重线性回归实际上有很多相同之处，最大的区别就在于它们的因变量不同，其他的基本都差不多。Logistic回归的因变量可以是二分类的，也可以是多分类的，但是二分类的更为常用，也更加容易解释。所以实际中最常用的就是二分类的Logistic回归。由于逻辑回归是二分类的，所以主要用于分类问题

逻辑回归的步骤：

 

1. 寻找h函数（即hypothesis）；
2. 构造J函数（损失函数）；
3. 想办法使得J函数最小并求得回归参数（θ）

h函数的构造为

h函数的含义是：输入x，其结果分类为1的概率。所以很容易得到输入x，其结果分类为0的概率为1-h

 

损失函数：表示h函数与实际值之间的误差

 

 

 

 

损失函数的推导：http://blog.csdn.net/pakko/article/details/37878837