摘要: 特征选择很重要,除了人工选择,还可以用其他机器学习方法,如逻辑回归、随机森林、PCA、LDA等。 分享一下逻辑回归做特征选择 特征选择包括: 特征升维 特征降维 特征升维 如一个样本有少量特征,可以升维,更好的拟合曲线 特征X 升维X/X**2/ 效果验证,做回归 加特征x**2之后的效果 特征X1 阅读全文
posted @ 2017-06-01 15:20 亢奋的小马哥 阅读(4360) 评论(0) 推荐(0) 编辑
摘要: 线性回归、逻辑回归可以解决分类问题(二分类、多分类)、回归问题。 主要技术点 线性回归 高斯分布 最大似然估计MLE 最小二乘法的本质Logistic回归 分类问题的首选算法重要技术 梯度下降算法 最大似然估计 特征选择  交叉验证 一、线性回归 y=ax+b (一个变量) 两个变量 阅读全文
posted @ 2017-06-01 14:17 亢奋的小马哥 阅读(1174) 评论(0) 推荐(0) 编辑
摘要: svm是一种分类算法,一般先分为两类,再向多类推广一生二,二生三,三生。。。 大致可分为: 线性可分支持向量机 硬间隔最大化hard margin maximization 硬间隔支持向量机 线性支持向量机 软间隔最大化soft margin maximization 软间隔支持向量机 阅读全文
posted @ 2017-06-01 11:41 亢奋的小马哥 阅读(2469) 评论(0) 推荐(0) 编辑