摘要: ©NLP论文解读 原创•作者 | 吴雪梦Shinemon 研究方向 | 计算机视觉 导读说明: 一个具有良好性能的语言模型,一定量的数据样本必不可少。现有的各种语言模型中,例如GPT3具有1750亿的参数量,前不久发布的源1.0单体模型参数量达2457亿,DeepMind团队一起新发布的语言模型Go 阅读全文
posted @ 2022-03-03 16:50 NLP论文解读 阅读(655) 评论(0) 推荐(0) 编辑
摘要: 图神经网络在快手短视频推荐中的应用 本文讲解快手在短视频推荐领域的最新论文: CIKM'21 《Concept-Aware Denoising Graph Neural Network for Micro-Video Recommendation 》 本文将从以下几个部分对上面论文进行讲解: 一:当 阅读全文
posted @ 2022-03-02 17:43 NLP论文解读 阅读(638) 评论(0) 推荐(0) 编辑
摘要: ©原创作者 | 朱林 01 序言 知识是人类在实践中认识客观世界的结晶。知识图谱(Knowledge Graph, KG)是知识工程的重要分支之一,它以符号形式结构化地描述了物理世界中的概念及其相互关系。 知识图谱的基本组成形式为<实体,关系,实体>的三元组,实体间通过关系相互联结,构成了复杂的网状 阅读全文
posted @ 2022-03-01 14:19 NLP论文解读 阅读(11508) 评论(2) 推荐(2) 编辑
摘要: ©原创作者 | 小欣 原标题:异步传播注意力图神经网络(APAN)简介,一种图神经网络时序模型在工业化场景上的实践探索 01 图神经网络在工业场景上的瓶颈 传统的图模型通常执行两个串行操作:首先是图查询,然后是模型推理,由于查询 k-hop 邻居的时间复杂度比较大,很多图算法在时序神经网络模型中无法 阅读全文
posted @ 2022-02-09 18:02 NLP论文解读 阅读(354) 评论(0) 推荐(0) 编辑
摘要: ©原创作者 | 疯狂的Max 01 背景及动机 Transformer是目前NLP预训练模型的基础模型框架,对Transformer模型结构的改进是当前NLP领域主流的研究方向。 Transformer模型结构中每层都包含着残差结构,而残差结构中最原始的结构设计是Post-LN结构,即把Layer 阅读全文
posted @ 2022-02-08 12:02 NLP论文解读 阅读(544) 评论(0) 推荐(0) 编辑
摘要: ©原创作者 | FLPPED 论文: Self-Attention Attribution: Interpreting Information Interactions Inside Transformer (2021 AAAI论文亚军) 地址: https://arxiv.org/pdf/2004 阅读全文
posted @ 2022-02-07 12:17 NLP论文解读 阅读(981) 评论(0) 推荐(0) 编辑
摘要: ©原创作者 | FLPPED 参考论文: A Survey of Transformers 论文地址: https://arxiv.org/abs/2106.04554 研究背景: Transformer在人工智能的许多领域取得了巨大的成功,例如自然语言处理,计算机视觉和音频处理,也自然吸引了大量的 阅读全文
posted @ 2022-02-06 18:00 NLP论文解读 阅读(505) 评论(0) 推荐(0) 编辑
摘要: ©原创作者 | 双鸭山学长 摘要: 文本情感分析是自然语言处理领域的一个重要分支,广泛应用于舆情分析和内容推荐等方面,是近年来的研究热点。根据使用的不同方法,将其划分为基于情感词典的情感分析方法、基于传统机器学习的情感分析方法、基于深度学习的情感分析方法。通过对这三种方法进行对比,分析其研究成果,并 阅读全文
posted @ 2022-02-05 18:53 NLP论文解读 阅读(12148) 评论(1) 推荐(1) 编辑
摘要: ©原创作者 | 康德 链接: https://arxiv.org/abs/2110.06274 Github: https://github.com/microsoft/LiST 本文提出一种在少样本学习情况下对大型预训练语言模型(PLMs)进行有效微调的方法-LiST。LiST比最近采用提示微调的 阅读全文
posted @ 2022-02-04 20:08 NLP论文解读 阅读(249) 评论(0) 推荐(0) 编辑
摘要: ©原创作者 | 朱林 论文解读: Modeling Transitions of Focal Entities for Conversational Knowledge Base Question Answering 论文作者: Yunshi Lan, Jing Jiang 论文地址: https: 阅读全文
posted @ 2022-02-03 18:47 NLP论文解读 阅读(228) 评论(0) 推荐(0) 编辑