随笔分类 - NLP
Transformer的应用
摘要:Transformer 写在前面 本学期学习了NLP的课程,本小菜鸡结合做的课设(基于Transformer的英文文档摘要系统的设计与实现),来写一下有关于Transformer的相关内容吧,有问题之处还请各位大佬批评指正 系统的背景 抽象文本摘要是自然语言处理中最具挑战性的任务之一,涉及理解长段落
NLP复习之神经网络
摘要:NLP复习之神经网络 前言 tips: 设计神经网络时,输入层与输出层节点数往往固定,中间层可以自由指定; 神经网络中的拓扑与箭头代表预测过程数据流向,与训练的数据流有一定区别; 我们不妨重点关注连接线,因为它们是权重,是要训练得到的 神经元 神经元模型是一个包含输入、输出、计算功能的模型,注意中间
NLP复习之向量语义
摘要:向量语义 词汇语义 语义概念(sense or concept)是单词含义(word sense)的组成部分,词原型可以是多义的。 同义词是指:在某些或者全部的上下文中,单词之间有相同或近似含义 可能没有完全相同含义的同义词例子! 即使在很多情况下(上下文语境),单词间的含义是相同的。 但仍然有可能
NLP复习之朴素贝叶斯
摘要:朴素贝叶斯分类器和加一平滑计算每个单词的似然值 贝叶斯规则:c表示类别,d表示数据 例题1 假设句子“I always like foreign films.”中每个单词对应每个类的似然估计如下,请判断该句子属于正面还是负面评