摘要:
导读 本文简单的介绍了Google 于 2013 年开源推出的一个用于获取 word vector 的工具包(word2vec),并且简单的介绍了其中的两个训练模型(Skip gram,CBOW),以及两种加速的方法(Hierarchical Softmax,Negative Sampling)。 阅读全文
摘要:
Simple Recurrent Unit 阅读全文
摘要:
导读 本文讨论了深层神经网络训练困难的原因以及如何使用Highway Networks去解决深层神经网络训练的困难,并且在pytorch上实现了Highway Networks。 一 、Highway Networks 与 Deep Networks 的关系 深层神经网络相比于浅层神经网络具有更好的 阅读全文