何永灿 - 博客园

2018年7月15日

摘要：一、线性模型预测一个样本的损失量损失量：模型对样本的预测结果和该样本对应的实际结果的差距； 1）为什么会想到用 y = -log(x) 函数? （该函数称为惩罚函数：预测结果与实际值的偏差越大，惩罚越大） 2）求一个样本的损失量由于逻辑回归解决的是分类问题，而且是二分类，因此定义损失函数时也要阅读全文

posted @ 2018-07-15 18:31 何永灿阅读(5793) 评论(1) 推荐(3) 编辑

机器学习：逻辑回归（基础理解）

摘要：逻辑回归（Logistic Regression）一、行业算法应用率机器学习算法的本质就是求出一个函数 ý = f(x)，如果给函数输入一个样本 x ，经过 f(x) 运算后得到一个 ý；具统计，2017年，除了军事和安全领域，逻辑回归算法是在其它所有行业使用最多了一种机器学习算法； Logi 阅读全文

posted @ 2018-07-15 11:39 何永灿阅读(695) 评论(0) 推荐(0) 编辑

2018年7月13日

机器学习：模型泛化（L1、L2 和弹性网络）

摘要：一、岭回归和 LASSO 回归的推导过程 1）岭回归和LASSO回归都是解决模型训练过程中的过拟合问题具体操作：在原始的损失函数后添加正则项，来尽量的减小模型学习到的 θ 的大小，使得模型的泛化能力更强； 2）比较 Ridge 和 LASSO 名词 Ridge、LASSO：衡量模型正则化； MSE 阅读全文

posted @ 2018-07-13 19:39 何永灿阅读(3145) 评论(0) 推荐(0) 编辑

机器学习：模型泛化（LASSO 回归）

摘要：一、基础理解 LASSO 回归（Least Absolute Shrinkage and Selection Operator Regression）是模型正则化的一定方式；功能：与岭回归一样，解决过拟合或者模型含有的巨大的方差误差的问题；二、LASSO 回归以线性回归为例 1）对于岭回归任阅读全文

posted @ 2018-07-13 16:22 何永灿阅读(2860) 评论(0) 推荐(0) 编辑

机器学习：模型泛化（岭回归：Ridge Regression）

摘要：一、基础理解模型正则化（Regularization） # 有多种操作方差，岭回归只是其中一种方式；功能：通过限制超参数大小，解决过拟合或者模型含有的巨大的方差误差的问题；影响拟合曲线的两个因子影响拟合曲线的两个因子二、岭回归岭回归（Ridge Regression）：模型正则化的一种方阅读全文

posted @ 2018-07-13 10:15 何永灿阅读(2174) 评论(0) 推荐(0) 编辑

Numpy：np.random 的使用

摘要： np.random.uniform() 阅读全文

posted @ 2018-07-13 09:06 何永灿阅读(202) 评论(0) 推荐(0) 编辑

2018年7月12日

机器学习：偏差方差权衡（Bias Variance Trade off）

摘要：一、什么是偏差和方差在机器学习中，实际要训练模型用来解决一个问题，问题本身可以理解为靶心，而模型就是子弹，则子弹呈现在靶子上弹孔位置就可能出现偏差和方差的情况，也就是说训练出的模型可能犯偏差和方差两种错误；二、模型误差模型误差 = 偏差（Bias） + 方差（Variance） + 不可避免阅读全文

posted @ 2018-07-12 11:18 何永灿阅读(2507) 评论(0) 推荐(0) 编辑

2018年7月10日

机器学习：验证数据集与交叉验证

摘要：一、训练及验证模型的方法最佳模型：在测试数据集（或者相对于模型来说是全新的数据集）上表现的比较好的模型，因为这种模型的泛化能力强，放在生成环境中面对未知的环境时有更好的表现。调整的参数通常就是超参数：kNN 中的 k 和 P 、多项式回归中的 degree 等；通常调参时使用交叉验证的方法。阅读全文

posted @ 2018-07-10 22:23 何永灿阅读(2338) 评论(0) 推荐(0) 编辑

机器学习：学习曲线

摘要：一、基础理解学习曲线作用：学习曲线：随着训练样本的逐渐增多，算法训练出的模型的表现能力；表现能力：也就是模型的预测准确率，使用均方误差表示；学习率上体现了模型相对于训练集和测试集两类数据的均方误差。具体的操作：具体的操作：二、实例 1）模拟数据集数据集 import numpy as 阅读全文

posted @ 2018-07-10 21:24 何永灿阅读(12892) 评论(1) 推荐(2) 编辑

机器学习：过拟合与欠拟合

摘要：一、基础理解 1）训练模型的目的训练模型不是为了最大程度的拟合样本点，而是为了获得一个可以预测的模型，当有了新的样本时，该模型可以给出很好的解答，因此衡量模型对于训练数据集的拟合程度时是没有意义的，我们真正需要的是该模型的泛化能力；均方误差：描述两组数之间的相同程度；机器学习领域，用模型在 X 阅读全文

posted @ 2018-07-10 09:53 何永灿阅读(1549) 评论(0) 推荐(0) 编辑

公告