词袋模型:词语统计方法的文本向量化
原文:
文本向量化表示——词袋模型 - 知乎 (zhihu.com)
通过阅读原文后,总结如下:
词袋模型就是:
对文本分词;
对每个词语进行独热编码;
统计词语出现的次数,加入到词语对应的维度上。
最终得到的向量便是这个文本的向量。
词袋模型的缺点:
只用词语出现的频率来突出文本主题(或者说是代表文本),却忽略了词语之间语法和语序对文本意思的影响,这里举一个语序对文本意思带来的180度的影响的例子:
文本一:
我是你爸爸
VS
文本二:
你是我爸爸
这两句话用词袋模型表示的向量是一样的,但是两句话的意思截然不同。