摘要:
什么是dropout? 在机器学习的模型中,如果模型的参数太多,而训练样本又太少,训练出来的模型很容易产生过拟合的现象。在训练神经网络的时候经常会遇到过拟合的问题,过拟合具体表现在:模型在训练数据上损失函数较小,预测准确率较高;但是在测试数据上损失函数比较大,预测准确率较低。深度学习中在代码中经常碰 阅读全文
摘要:
泛化能力指模型在经过训练以后,对于给定的未知input从而给出合适的output,也可以说是一种举一反三的能力。 泛化的对立面可以是过拟合,举一个例子,塑造一只狗的模型,描述是:四肢动物,耳朵敏锐,嗅觉敏锐,有尾巴等等特点,这是一种泛化的描述,过拟合则是对于数据的精确拟合,像是对于塑造的狗的极其精确 阅读全文
摘要:
Ablation Study: An ablation study is where you systematically removeparts of the input to see which parts of the inputare relevant to the networks out 阅读全文