复习NLP-实战（九）----语言模型

一、语言模型

用来计算一个句子出现的概率，每个句子中的词出现的概率都跟之前所有的词有关系。

这样一种模型会出现一个问题：

1.数据过于稀疏。

2.参数空间过大。（指的是什么意思）

N-gram模型指的是当你指定一个词以后，这个词只跟前面的N个词相关。决定了条件概率的表达式形式。