神经网络之:感知器
在神经网络中,我们主要使用的是一种称为S型神经元的神经元模型。感知器就是我们所谓的“人工神经元”。那么感知器怎么工作的呢,接下来我们来谈谈。
1.感知器工作机制:
上图中有x1,x2和x3输入,一般情况下我们可以引入权重w1,w2和w3来表示输入对输出的重要性,这时可以计算w1 * x1 +w2 * x2 +w3 * x3,即分配权重后的总和 ∑j wjxj。当总和大于阈值的时候,神经元输出1;当小于阈值的时候,神经元输出0。即:
这就是一个人工神经元(感知器要做的事情)
2.神经网络模型:
(1)在神经网络中第一列感知器称为第一层感知器,也称之为输入层,通过权衡输入依据做出一个重要的决决策,以这种方式,第二层中感知器可以做出比第一层中更为复杂和抽象的决策,第三层中的感知器甚至能进行更为复杂的决策。(这个地方要注意:感知器只有一个输出,即感知器是单输出的)
(2)在神经网络中,我们把∑ wjxj 改写成点乘,w · x ≡∑wjxj;把阈值改为偏置项,偏置项b=threshold,我们使用偏置项而不是用阈值,那么感知器的规则可以写成下面这种形式:
我们把偏置项用来表示感知器输出1是有多容易的一种估算,这种应用是依据权衡依据来做出决策的方法,而感知器被采用的另一种方式是计算基本的逻辑功能
3.感知器优点:微小的改动能够仅仅引起输出的微小变化,那我们可以利事实来修改权重和偏置,让我们的网络能够表现得像我们想要的那样。
缺点:网络中单个感知器上一个权重或偏置的微小改动有时候会引起那个感知器的输出完全翻转,如 0 变到 1。那样的翻转可能接下来引起其余网络的行为以极其复杂的方式完全改变