学习UFLDL笔记
第一节 神经网络
神经元长这样
大写W看着有点不习惯。。
激活函数, 就是上面式子中的f。
可以选 sigmoid函数(或者叫 logistic回归,对数几率函数),反正就是这样一个函数啦
长这样。。
也可以选双曲正切函数 tanh,长这样
tanh 跟 sigmoid 长得像,注意取值范围
sigmoid 函数 的导数 f'(x)=f(x)(1-f(x))
tanh 的导数 f'(x)=1-(f(x))^2
以上。。