一天学完UFLDL

学习UFLDL笔记

第一节 神经网络

神经元长这样 

大写W看着有点不习惯。。

激活函数, 就是上面式子中的f。

可以选 sigmoid函数(或者叫 logistic回归,对数几率函数),反正就是这样一个函数啦

长这样。。

 

也可以选双曲正切函数 tanh,长这样

tanh 跟 sigmoid 长得像,注意取值范围

sigmoid 函数 的导数 f'(x)=f(x)(1-f(x))

tanh 的导数 f'(x)=1-(f(x))^2

以上。。

 

posted @ 2016-07-22 23:38  hopskin1  阅读(176)  评论(0编辑  收藏  举报