Introduction to Neural Machine Translation - part 1

The Noise Channel Model

\(p(e)\): the language Model
\(p(f|e)\): the translation model
where, \(e\): English language; \(f\): French Language.

由法语翻译成英语的概率:

\[p(e|f)=\frac{p(e,f)}{p(f)}=\frac{p(e)p(f|e)}{\sum_e{p(e)p(f|e)}} \]

\[arg\max_e p(e|f)=arg\max_e p(e)p(f|e) \]

我们的翻译结果就是 \(arg\max\) 所得到的 \(e\).

Note

语言模型 \(p(e)\) 和我们之前定义是一样的。而翻译模型，我们会从很多句一一对应的英法语句中训练学习到。
这个模型是IBM Model 的基础。

Wait for Update.