摘要: 1.dropout dropout是一种常用的手段,用来防止过拟合的,dropout的意思是在训练过程中每次都随机选择一部分节点不要去学习,减少神经元的数量来降低模型的复杂度,同时增加模型的泛化能力。虽然会使得学习速度降低,因而需要合理的设置保留的节点数量。 在TensorFlow中dropout的 阅读全文
posted @ 2019-06-02 20:25 Baby-Lily 阅读(2141) 评论(0) 推荐(0) 编辑
摘要: 在TensorFlow的优化器中, 都要设置学习率。学习率是在精度和速度之间找到一个平衡: 学习率太大,训练的速度会有提升,但是结果的精度不够,而且还可能导致不能收敛出现震荡的情况。 学习率太小,精度会有所提升,但是训练的速度慢,耗费较多的时间。 因而我们可以使用退化学习率,又称为衰减学习率。它的作 阅读全文
posted @ 2019-06-02 12:53 Baby-Lily 阅读(7323) 评论(0) 推荐(0) 编辑