摘要: mini-batch在深度学习中训练神经网络时经常用到,这是一种梯度下降方法,可以很快的降低cost,接下来系统介绍一下。 1. 什么是 mini-batch梯度下降 先来快速看一下BGD,SGD,MBGD的定义, 当每次是对整个训练集进行梯度下降的时候,就是batch梯度下降 当每次只对一个样本进 阅读全文
posted @ 2018-09-27 22:13 Vancuicide 阅读(661) 评论(0) 推荐(0) 编辑