摘要: 什么是dropout? 在机器学习的模型中,如果模型的参数太多,而训练样本又太少,训练出来的模型很容易产生过拟合的现象。在训练神经网络的时候经常会遇到过拟合的问题,过拟合具体表现在:模型在训练数据上损失函数较小,预测准确率较高;但是在测试数据上损失函数比较大,预测准确率较低。深度学习中在代码中经常碰 阅读全文
posted @ 2019-06-18 20:06 nlppp 阅读(2376) 评论(0) 推荐(0) 编辑
摘要: 泛化能力指模型在经过训练以后,对于给定的未知input从而给出合适的output,也可以说是一种举一反三的能力。 泛化的对立面可以是过拟合,举一个例子,塑造一只狗的模型,描述是:四肢动物,耳朵敏锐,嗅觉敏锐,有尾巴等等特点,这是一种泛化的描述,过拟合则是对于数据的精确拟合,像是对于塑造的狗的极其精确 阅读全文
posted @ 2019-05-29 14:04 nlppp 阅读(844) 评论(0) 推荐(0) 编辑
摘要: Ablation Study: An ablation study is where you systematically removeparts of the input to see which parts of the inputare relevant to the networks out 阅读全文
posted @ 2019-05-27 19:42 nlppp 阅读(193) 评论(0) 推荐(0) 编辑