摘要: 在本篇章,我们将专门针对vanilla RNN,也就是所谓的原始RNN这种网络结构进行前向传播介绍和反向梯度推导。更多相关内容请见《神经网络的梯度推导与代码验证》系列介绍。 注意: 本系列的关注点主要在反向梯度推导以及代码上的验证,涉及到的前向传播相对而言不会做太详细的介绍。 反向梯度求导涉及到矩阵 阅读全文
posted @ 2020-09-04 17:26 SumwaiLiu 阅读(905) 评论(5) 推荐(3) 编辑
摘要: 在《神经网络的梯度推导与代码验证》之CNN的前向传播和反向梯度推导 中,我们学习了CNN的前向传播和反向梯度求导,但知识仍停留在纸面。本篇章将基于深度学习框架tensorflow验证我们所得结论的准确性,以便将抽象的数学符号和实际数据结合起来,将知识固化。更多相关内容请见《神经网络的梯度推导与代码验 阅读全文
posted @ 2020-09-04 10:19 SumwaiLiu 阅读(890) 评论(0) 推荐(4) 编辑