2017年3月19日
机器学习 —— 基础整理（八）循环神经网络的BPTT算法步骤整理；梯度消失与梯度爆炸
摘要： 网上有很多Simple RNN的BPTT（Backpropagation through time，随时间反向传播）算法推导。下面用自己的记号整理一下。 我之前有个习惯是用下标表示样本序号，这里不能再这样表示了，因为下标需要用做表示时刻。 典型的Simple RNN结构如下： 图片来源：[3] 约定 阅读全文
posted @ 2017-03-19 01:08 Determined22 阅读(10470) 评论(2) 推荐(2) 编辑