摘要: 近年来,深度学习的研究越来越深入,在各个领域也都获得了不少突破性的进展。基于注意力(attention)机制的神经网络成为了最近神经网络研究的一个热点,下面是一些基于attention机制的神经网络在自然语言处理(NLP)领域的论文,现在来对attention在NLP中的应用进行一个总结,和大家一起 阅读全文
posted @ 2019-04-30 16:43 杨国峰 阅读(2254) 评论(1) 推荐(0) 编辑
摘要: 近年来,注意力(Attention)机制被广泛应用到基于深度学习的自然语言处理(NLP)各个任务中。随着注意力机制的深入研究,各式各样的attention被研究者们提出。在2017年6月google机器翻译团队在arXiv上放出的《Attention is all you need》论文受到了大家广 阅读全文
posted @ 2019-04-30 16:39 杨国峰 阅读(2150) 评论(0) 推荐(0) 编辑