Highway LSTM 学习笔记

Highway LSTM 学习笔记

zoerywzhou@gmail.com

http://www.cnblogs.com/swje/

作者：Zhouwan

 2016-4-5

 

声明

---

 

1）该Deep Learning的学习系列是整理自网上很大牛和机器学习专家所无私奉献的资料的。具体引用的资料请看参考文献。具体的版本声明也参考原文献。

2）本文仅供学术交流，非商用。所以每一部分具体的参考资料并没有详细对应。如果某部分不小心侵犯了大家的利益，还望海涵，并联系博主删除。

3）本人才疏学浅，整理总结的时候难免出错，还望各位前辈不吝指正，谢谢。

请联系：zoerywzhou@163.com

 

本研究课题系本人本科毕业论文，具体学习计划见http://www.cnblogs.com/swje/p/5068069.html。

最近一段时间在看Highway LSTM，记录一下自己的学习过程、学习用到的网址和笔记心得等，以便在日后想回顾的时候能随时查到，也希望能分享给大家，提供给同样处于deep learning学习起步阶段的朋友们一个入门的案例。

源文件及参考文献如下

Highway LSTM by Torch (LUA) https://github.com/yoonkim/lstm-char-cnn 

[High-way-lstm-1]High-way LSTM RNNS FOR Distant Speech Recognition.pdf   ： 访问密码 510b

[High-way-lstm-2]Character-Aware Neural Language Models.pdf   ：访问密码 510b

Highway Networks

high-lstm在语音识别中的应用：Highway Long Short-Term Memory RNNs for Distant Speech Recognition

 

Very Deep Learning with Highway Networks

干货 | ICCV 2015 揭开152层神经网络的面纱

干货 | NIPS 2015 Deep Learning Symposium（一）

干货 | NIPS 2015 Deep Learning Symposium（二）

学习体会

1、highway lstm的原理  

2、highway lstm的优势 

3、highway lstm与lstm的比较 

4、highway lstm的应用 

 

已完，不续……