摘要： 一、什么是逻辑回归 逻辑回归 Logistic Regression 逻辑回归：解决分类问题 回归问题怎么解决分类问题？ 将样本的特征和样本发生的概率联系起来，概率是一个数。 二、逻辑回归的损失函数 三、 逻辑回归损失函数的梯度 四、实现逻辑回归算法 LogisticRegression.py 我写 阅读全文

摘要： 六、验证数据集与交叉验证 七、偏差方差平衡 偏差方差权衡 Bias Variance Trade off 偏差 Bias 导致偏差的主要原因： 对问题本身的假设不正确！ 如：非线性数据使用线性回归 欠拟合 underfitting 方差 Variance 数据的一点点扰动都会较大的影响模型 通常原因 阅读全文

摘要： 一、什么是多项式回归 直线回归研究的是一个依变量与一个自变量之间的回归问题，但是，在畜禽、水产科学领域的许多实际问题中，影响依变量的自变量往往不止一个，而是多个，比如绵羊的产毛量这一变量同时受到绵羊体重、胸围、体长等多个变量的影响，因此需要进行一个依变量与多个自变量间的回归分析，即多元回归分析。 研 阅读全文

摘要： 五、高维数据映射为低维数据 换一个坐标轴。在新的坐标轴里面表示原来高维的数据。 低维 反向 映射为高维数据 PCA.py 六、scikit-learn 中的 PCA 七、试手MNIST数据集 通过单幅图像数据的高维化,将单幅图像转化为高维空间中的数据集合,对其进行非线性降维,寻求其高维数据流形本征结 阅读全文

摘要： 一、什么是PCA 主成分分析 Principal Component Analysis 一个非监督学的学习算法 主要用于数据的降维 通过降维，可以发现更便于人类理解的特征 其他应用：可视化；去噪 第一步：将样例的均值归零（demean） 二、使用梯度上升法求解PCA问题 梯度上升法解决主成分分析问题 阅读全文

摘要： 梯度下降法的基本思想可以类比为一个下山的过程。假设这样一个场景：一个人被困在山上，需要从山上下来(i.e. 找到山的最低点，也就是山谷)。但此时山上的浓雾很大，导致可视度很低。因此，下山的路径就无法确定，他必须利用自己周围的信息去找到下山的路径。这个时候，他就可以利用梯度下降算法来帮助自己下山。具体 阅读全文

摘要： 一、什么是梯度下降法 梯度下降法 Gradient Descent 1.不是一个机器学习算法 2.是一种基于搜索的最优化方法 3.作用：最小化一个损失函数 4.梯度上升法：最大化一个效用函数 并不是所有函数都有唯一的极值点 二、模拟梯度下降法 三、线性回归中的梯度下降法 多元线性回归中的梯度下降法 阅读全文

摘要： 六、最好的衡量线性回归法的指标： R Squared 七、多元线性回归 八、实现多元线性回归 九、使用 scikit-learn 解决回归问题 十、线性回归的可解释性和更多的思考 写了这么多，怎么还不够150字？ 写了这么多，怎么还不够150字？ 写了这么多，怎么还不够150字？ 写了这么多，怎么还 阅读全文

摘要： 一、简单额线性回归 解决回归问题 思想简单、实现容易 许多强大的非线性模型的基础 结果具有很好的可解释性 蕴含机器学习中的很多重要思想 二、最小二乘法 三、简单线性回归的实现 SimpleLinearRegression.py 四、向量化 五、衡量线性回归法的指标：MSE、RMS 和 MAE met 阅读全文

摘要： 六、网格搜索与 K 邻近算法中更多的超参数 七、数据归一化 Feature Scaling 解决方案：将所有的数据映射到同一尺度 八、scikit-learn 中的 Scaler preprocessing.py 九、更多有关 K 近邻算法的思考 优点： 解决分类问题 天然可以解决多分类问题 思想简 阅读全文