2018年10月13日
关于注意力机制（《Attention is all you need》）
摘要： 深度学习做NLP的方法，基本上都是先将句子分词，然后每个词转化为对应的词向量序列。(https://kexue.fm/archives/4765) 第一个思路是RNN层，递归进行，但是RNN无法很好地学习到全局的结构信息，因为它本质是一个马尔科夫决策过程。 第二个思路是CNN层，其实CNN的方案也是 阅读全文
posted @ 2018-10-13 22:09 谁动了我的奶盖 阅读(4716) 评论(0) 推荐(0) 编辑