在神经网络中bias偏置有什么作用?

1.功能上:偏置可以加速神经网络拟合。

加了偏置项的神经网络有更复杂的参数结构,拟合能力更好。

 

2.形式上:偏置b可以视为控制每个神经元的阈值(-b等于神经元阈值)。

举例如:神经元的激活函数f为sign。每个神经元的输出即为sign(WX +b)。

当 wx < -b时, 输出值为-1,也就是抑制。

当 wx >= -b时, 输出值为1也就是激活。

posted @ 2022-08-16 08:40  Tomorrow1126  阅读(296)  评论(0编辑  收藏  举报