摘要: 一、摘要 了解CNN必读的一篇论文,有些东西还是可以了解的。 二、结构 1、 Relu的好处: 1、在训练时间上,比tanh和sigmod快,而且BP的时候求导也很容易 2、因为是非饱和函数,所以基本不会出现梯度消失的情况 Relu只要控制好learing rate,可以说是完胜之前的激活函数,也因 阅读全文
posted @ 2016-07-21 21:16 亦轩Dhc 阅读(4431) 评论(0) 推荐(0) 编辑