2017—论文阅读—分类任务
2017文本分类任务经典论文如下
1.Very Deep Convolutional Networks for Text Classification
基本信息:2017 aCL 200+
模型框架:字符级卷积,和resnet结构很相似,最后加了三层全连接层,三次池化,在所有的卷积之后,有一个k-max pooling 去统一维度
2.Bag of Tricks for Efficient Text Classification
2017 acl 800+
模型参数:$x_i$是N-gram特征,A是词向量,B是全连接层权重。
模型架构:通过词向矩阵A寻找句子中的词对应的词向量,得到$x_i$,而后对所有的$x_i$求平均,最后将将求平均的向量乘以B,得到对应的类别。
目标函数:$-\frac{1}{N}\sum_{n=1}^{N}y_n log(f(BAx_n))$
3.generative and discriminative text classification with recurrent neural networks
2017 arxiv 引用量:40+
4.Combining Knowledge with Deep Convolutional Neural Networks for Short Text Classification
2017 IJCAI 36+
卷积核和池化的过程 Text CNN 对应的计算方式一样,下图画的不太明确;文中介绍了一些短文本的特征。
创新点:加入了character对语义的微调,文本的概念化表达