摘要： 1.mini-batch size 表示每次都只筛选一部分作为训练的样本,进行训练，遍历一次样本的次数为(样本数/单次样本数目) 当mini-batch size 的数量通常介于1，m 之间 当为1时，称为随机梯度下降 一般我们选择64，128， 256等样本数目 2. 指数加权平均 v0 = 0 阅读全文

摘要： 1.训练样本的分布 交叉验证指的是训练集和验证集，为了防止在训练过程中受到部分训练样本的影响 一般当样本数目较少时，采用60/20/20的比例，60%的训练集，20%的验证集，20%的测试集当样本数目较大时，一般可以采用2.5%的验证集和1%的测试集，其他都是训练样本。 很多情况下，我们会不适用测试 阅读全文