机器学习西瓜书白话解读笔记---0309-0310、逻辑回归

机器学习西瓜书白话解读笔记---0309-0310、逻辑回归

一、总结

一句话总结：

【不是得到y和x的关系】，而是得到【ln(y/(1-y))与x的关系】，而ln(y/(1-y))就是对数几率，

$$y = \frac { 1 } { 1 + e ^ { - ( w ^ { T } x + b ) } }$$，$$\ln \frac { y } { 1 - y } = w ^ { T } x + b$$

y/(1-y)表示几率：【如果y表示取0的几率，那么1-y表示取1的概率】，几率y/(1-y)则反映了【正例可能性与反例可能性之比值】

【本质】：用【线性回归模型的结果】去逼近【真实标记的对数几率】

 

1、逻辑回归的优点？

【不仅分类还知概率】：直接对分类可能性进行建模，不只是预测出类别，而是得到近似概率预测，对许多需要利用概率辅助决策的任务很有帮助

【无需知道分布】：无需事先假设数据分布，避免了假设分布不准确所带来的问题

【数学性质良好】：任意阶可导的凸函数，有很好的数学性质

【可用于许多数值优化算法】：现有的许多数值优化算法都可直接用于求取最优解

 

 

二、内容在总结中

博客对应课程的视频位置：