摘要: implementation: 最近实践心得: COCOB这个优化器,发现在某些网络的训练上面非常的不稳定,还是设置Adam比较靠谱。。。。 lr cosine 的学习率的设计方式一般和momentum optimizer搭配~~~~~ 记录一下自己给跪的理解力: 阅读全文
posted @ 2018-10-17 14:25 lily19 阅读(104) 评论(0) 推荐(0) 编辑