2017年11月2日
cs231n spring 2017 lecture6 Training Neural Networks I
摘要： 1. 激活函数： 1）Sigmoid，σ(x)=1/(1+e-x)。把输出压缩在(0,1)之间。几个问题：（a）x比较大或者比较小（比如10，-10），sigmoid的曲线很平缓，导数为0，在用链式法则的时候，后一层传回来的导数乘以sigmoid的导数也是0了，换句话说，对于sigmoid饱和的区域 阅读全文
posted @ 2017-11-02 21:45 ZonghaoChen 阅读(273) 评论(0) 推荐(0) 编辑