2017年1月2日

模型复杂度

摘要: 理想的学习曲线 模型的最终目标是,误差小并能很好地泛化到未见过的数据(测试数据)。如果测试曲线和训练曲线均收敛,并且误差极低,就能看到这种模型。这种模型能根据未见过的数据非常准确地进行预测。 模型复杂度 与学习曲线图形不同,模型复杂度图形呈现的是模型复杂度如何改变训练曲线和测试曲线,而不是用以训练模 阅读全文

posted @ 2017-01-02 16:14 Betty__2017 阅读(1100) 评论(0) 推荐(0) 编辑

学习曲线2

摘要: 学习曲线 偏差 在训练误差和测试误差收敛并且相当高时,这实质上表示模型具有偏差。无论我们向其提供多少数据,模型都无法表示基本关系,因而出现系统性的高误差。 方差 如果训练误差与测试误差之间的差距很大,这实质上表示模型具有高方差。与偏差模型不同的是,如果有更多可供学习的数据,或者能简化表示数据的最重要 阅读全文

posted @ 2017-01-02 16:00 Betty__2017 阅读(131) 评论(0) 推荐(0) 编辑

学习曲线

摘要: 让我们根据模型通过可视化图形从数据中学习的能力来探讨偏差与方差之间的关系。 机器学习中的学习曲线是一种可视化图形,能根据一系列训练实例中的训练和测试数据比较模型的指标性能。 在查看数据与误差之间的关系时,我们通常会看到,随着训练点数量的增加,误差会趋于下降。由于我们尝试构建从经验中学习的模型,因此这 阅读全文

posted @ 2017-01-02 15:57 Betty__2017 阅读(158) 评论(0) 推荐(0) 编辑

改进模型的有效性

摘要: 我们可以看到,在给定一组固定数据时,模型不能过于简单或复杂。如果过于简单,模型无法了解数据并会错误地表示数据。但是,如果建立非常复杂的模型,则需要更多数据才能了解基本关系,否则十分常见的是,模型会推断出在数据中实际上并不存在的关系。 关键在于,通过找出正确的模型复杂度来找到最大限度降低偏差和方差的最 阅读全文

posted @ 2017-01-02 14:47 Betty__2017 阅读(183) 评论(0) 推荐(0) 编辑

偏差造成的误差 - 准确率和欠拟合

摘要: 如前所述,如果模型具有足够的数据,但因不够复杂而无法捕捉基本关系,则会出现偏差。这样一来,模型一直会系统地错误表示数据,从而导致准确率降低。这种现象叫做欠拟合(underfitting)。 简单来说,如果模型不适当,就会出现偏差。举个例子:如果对象是按颜色和形状分类的,但模型只能按颜色来区分对象和将 阅读全文

posted @ 2017-01-02 14:24 Betty__2017 阅读(447) 评论(0) 推荐(0) 编辑

方差造成的误差 - 精度和过拟合

摘要: 在训练模型时,通常使用来自较大训练集的有限数量样本。如果利用随机选择的数据子集反复训练模型,可以预料它的预测结果会因提供给它的具体样本而异。在这里,方差(variance)用来测量预测结果对于任何给定的测试样本会出现多大的变化。 出现方差是正常的,但方差过高表明模型无法将其预测结果泛化到更多的数据。 阅读全文

posted @ 2017-01-02 14:23 Betty__2017 阅读(583) 评论(0) 推荐(0) 编辑

误差原因

摘要: 在模型预测中,模型可能出现的误差来自两个主要来源,即:因模型无法表示基本数据的复杂度而造成的偏差(bias),或者因模型对训练它所用的有限数据过度敏感而造成的方差(variance)。 阅读全文

posted @ 2017-01-02 13:54 Betty__2017 阅读(258) 评论(0) 推荐(0) 编辑

回归分数函数

摘要: 除了误差指标之外,scikit-learn还包括了两个分数指标,范围通常从0到1,值0为坏,而值1为最好的表现。 虽然在课程最后的项目中,我们不会用到这两个指标,但是需要知道他们很重要。他们还有一个优点,就是看起来和分类指标类似,都是数字越接近1.0分数就越好。 其中之一是R2分数,用来计算真值预测 阅读全文

posted @ 2017-01-02 13:47 Betty__2017 阅读(561) 评论(0) 推荐(0) 编辑

均方误差

摘要: 均方误差是另一个经常用于测量模型性能的指标。与绝对误差相比,残差(预测值与真实值的差值)被求平方。 对残差求平方的一些好处是,自动将所有误差转换为正数、注重较大的误差而不是较小的误差以及在微积分中是可微的(可让我们找到最小值和最大值)。 帮助文档 http://scikit-learn.org/st 阅读全文

posted @ 2017-01-02 13:36 Betty__2017 阅读(1555) 评论(0) 推荐(0) 编辑

平均绝对误差

摘要: 您可能已回想起,在统计学中可以使用绝对误差来测量误差,以找出预测值与真实值之间的差距。平均绝对误差的计算方法是,将各个样本的绝对误差汇总,然后根据数据点数量求出平均误差。通过将模型的所有绝对值加起来,可以避免因预测值比真实值过高或过低而抵销误差,并能获得用于评估模型的整体误差指标 帮助文档 http 阅读全文

posted @ 2017-01-02 13:02 Betty__2017 阅读(1081) 评论(0) 推荐(0) 编辑

F1 分数

摘要: F1 分数会同时考虑精确率和召回率,以便计算新的分数。 可将 F1 分数理解为精确率和召回率的加权平均值,其中 F1 分数的最佳值为 1、最差值为 0: F1 = 2 * (精确率 * 召回率) / (精确率 + 召回率) 帮助文档 http://scikit-learn.org/stable/mo 阅读全文

posted @ 2017-01-02 12:54 Betty__2017 阅读(504) 评论(0) 推荐(0) 编辑

导航