logistic回归
logistic回归总是让我很迷惑。
基本的思路是:
1、先是,特征向量x-p函数是logistic函数,注意到这里是不是密度函数,因为它的积分不是1。
2、其次,根据0-1分布,写出离散分布的概率密度函数。
3、最后,根据最大似然函数求出参数。
可是,什么情况下,特征向量x与0或1的事件概率成logistic函数关系呢?拿一维的情况说明吧,比如对于成年男女两类问题,一维特征向量取身高x,x越大,是男士的概率越高。逐渐地趋于1。当然这里不太准确,因为logistic中,x可以取负数。具体什么情况可以看成logistic,有待分析。
可参考:http://cs229.stanford.edu/notes/cs229-notes1.pdf