摘要: 在《神经网络的梯度推导与代码验证》之LSTM的前向传播和反向梯度推导 中,我们学习了LSTM的前向传播和反向梯度求导,但知识仍停留在纸面。本篇章将基于深度学习框架tensorflow验证我们所得结论的准确性,以便将抽象的数学符号和实际数据结合起来,将知识固化。更多相关内容请见《神经网络的梯度推导与代 阅读全文
posted @ 2020-09-07 15:32 SumwaiLiu 阅读(834) 评论(0) 推荐(1) 编辑
摘要: 前言 在本篇章,我们将专门针对LSTM这种网络结构进行前向传播介绍和反向梯度推导。 关于LSTM的梯度推导,这一块确实挺不好掌握,原因有: 一些经典的deep learning 教程,例如花书缺乏相关的内容 一些经典的论文不太好看懂,例如On the difficulty of training R 阅读全文
posted @ 2020-09-07 09:23 SumwaiLiu 阅读(1724) 评论(5) 推荐(4) 编辑