python学习04

感知机概念回顾

• 单层感知机无法表示的东西，通过增加一层感知机就可以解决
• 叠加层、加深层、使感知机更加灵活的表示
• 权重、偏置是感知机的主要参数
• 单层感知机只能表示线性空间，而多层感知机可以表示非线性空间

神经网络

y = h(b+x1w1+x2w2)

• h（x）函数会将输入信号的总和转换为输出信号，这种函数一般称为激活函数（activation function）
• 激活函数是连接感知机和神经网络的桥梁
• 激活函数以阈值为界，一旦输入超过阈值，就切换输出。 这样的函数称为“阶跃函数”。
• 感知机中使用了阶跃函数作为激活函数，如果将激活函数从阶跃函数换成其他函数，就进入神经网络的世界了

h(x)=1/1+exp(-x)

• 神经网络中经常使用的一个激活函数就是sigmoid函数 （sigmoid function）
• exp(−x)表示e−x的意思。e是纳皮尔常数2.7182...