摘要:
3.8 多层感知机 以多层感知机(MLP)为例,介绍多层神经网络的概念。 3.8.1 隐藏层 多层感知机在单层神经网络的基础上引入了一到多个隐藏层。隐藏层位于输入层和输出层之间。 下图展示一个多层感知机的神经网络图,它含有一个隐藏层,该层具有5个隐藏单元。 3.8.2 激活函数 上述问题的根源在于全 阅读全文
摘要:
2.3 自动求梯度 对函数计算梯度(gradient),Pytoch提供的autograd包能够根据输入和前向传播过程自动构建计算图,并执行反向传播。 2.3.1 概念 Tensor是autograd包的核心类 如果将其属性.requires_grad设置为True,它将开始追踪在其上的所有操作(这 阅读全文