2020年2月1日
《机器学习(周志华)》笔记--线性模型（5）--逻辑回归实现二分类、LogisticRegression、多分类学习、纠错输出码(ECOC)
摘要： 四、逻辑回归 6、逻辑回归实现二分类 （1）对于每个样本x利用线性回归模型得到输出z： （2）将线性回归模型的输出z利用sigmoid函数得到概率： （3）构造损失函数： （4）损失函数关于向量W=( w0 , ... , wd )的函数，求损失函数的梯度： 由于： 所以： 由于： 所以： 由于： 阅读全文
posted @ 2020-02-01 12:18 泰初 阅读(1325) 评论(0) 推荐(1) 编辑
《机器学习(周志华)》笔记--线性模型（4）--梯度解释、梯度下降法算法思想、算法原理、算法流程、代码实现
摘要： 四、逻辑回归 5、梯度下降法 （1）梯度解释 偏导数：简单来说是对于一个多元函数，选定一个自变量并让其他自变量保持不变，只考察因变量与选定自变量的变化关系。 梯度：梯度的本意是一个向量，由函数对每个参数的偏导组成，表示某一函数在该点处的方向导数沿着该方向取得最大值，即函数在该点处沿着该方向变化最快， 阅读全文
posted @ 2020-02-01 11:46 泰初 阅读(1437) 评论(0) 推荐(1) 编辑
《机器学习(周志华)》笔记--线性模型（3）--逻辑回归思想、概率计算、sigmoid 函数、逻辑回归的损失函数计算
摘要： 四、逻辑回归 逻辑回归是属于机器学习里面的监督学习，它是以回归的思想来解决分类问题的一种非常经典的二分类分类器。由于其训练后的参数有较强的可解释性，在诸多领域中，逻辑回归通常用作baseline模型，以方便后期更好的挖掘业务相关信息或提升模型性能。 1、逻辑回归思想 当一看到“回归”这两个字，可能会 阅读全文
posted @ 2020-02-01 10:40 泰初 阅读(1276) 评论(0) 推荐(0) 编辑