摘要： from http://blog.csdn.net/tsq292978891/article/details/78619384 都是一种权值更新算法，类似于SGD算法，其中，RMSProp是RProp算法的改良版。 RProp算法 不同权值参数的梯度的数量级可能相差很大，因此很难找到一个全局的学习步 阅读全文

摘要： from http://www.cnblogs.com/qggg/p/6876942.html 转自 http://blog.csdn.net/sinat_30071459/article/details/50721565 深度学习中经常看到epoch、 iteration和batchsize，下面 阅读全文