摘要:
激活函数在神经网络中的作用有很多,主要作用是给神经网络提供非线性建模能力。如果没有激活函数,那么再多层的神经网络也只能处理线性可分问题。常用的激活函数有 sigmoid、 tanh、 relu、 softmax等。 1.1、sigmoid函数 sigmoid函数将输入变换为(0,1)上的输出。它将范 阅读全文
摘要:
Sigmoid函数求导 基础知识: Sigmoid函数: Sigmoid图形: 生成Sigmoid图形代码: import torch from d2l import torch as d2l %matplotlib inline x=torch.arange(-8.0,8.0,0.1,requir 阅读全文