2018年7月13日
Adam Optimization Algorithm
摘要： 曾经多次看到别人说起，在选择Optimizer的时候默认就选Adam。这样的建议其实比较尴尬，如果有一点科学精神的人，其实就会想问为什么，并搞懂这一切，这也是我开这个Optimizer系列的原因之一。前面介绍了Momentum，也介绍了RMSProp，其实Adam就是二者的结合，再加上偏差修正(Bi 阅读全文
posted @ 2018-07-13 20:24 Junfei_Wang 阅读(764) 评论(0) 推荐(0) 编辑