2018 年 10月 31 日随笔档案 - 虚生

2018年10月31日

摘要：关于概念： BRNN连接两个相反的隐藏层到同一个输出．基于生成性深度学习，输出层能够同时的从前向和后向接收信息．该架构是1997年被Schuster和Paliwal提出的．引入BRNNS是为了增加网络所用的输入信息量．例如，多层感知机（MLPS）和延时神经网络(TDNNS)在输入数据的灵活性方面是非阅读全文

posted @ 2018-10-31 19:45 虚生阅读(7226) 评论(0) 推荐(0) 编辑

PyTorch－Adam优化算法原理，公式，应用

摘要：概念：Adam 是一种可以替代传统随机梯度下降过程的一阶优化算法，它能基于训练数据迭代地更新神经网络权重。Adam 最开始是由 OpenAI 的 Diederik Kingma 和多伦多大学的 Jimmy Ba 在提交到 2015 年 ICLR 论文（Adam: A Method for Stoch 阅读全文

posted @ 2018-10-31 10:10 虚生阅读(27861) 评论(0) 推荐(1) 编辑

公告