2022年1月10日
为什么小批量会可以使模型获得更大的泛化
摘要： 批大小是机器学习中重要的超参数之一。这个超参数定义了在更新内部模型参数之前要处理的样本数量。 上图为使用 SGD 测试不同批量大小的示例。 批量大小可以决定许多基于深度学习的神经网络的性能。有很多研究都在为学习过程评估最佳批量大小。例如，对于 SGD可以使用批量梯度下降（使用批量中的所有训练样本）或 阅读全文
posted @ 2022-01-10 10:12 deephub 阅读(102) 评论(0) 推荐(0) 编辑