《BERT模型的优化改进方法》读书笔记

https://mp.weixin.qq.com/s/MHm7AxmcuEgFR_oNbNqFkQ

参考这篇文章

 

 

BERT预训练方法

BERT 模型使用两个预训练目标来完成文本内容特征的学习。

• 掩藏语言模型（Masked Language Model，MLM）通过将单词掩盖，从而学习其上下文内容特征来预测被掩盖的单词
• 相邻句预测（Next Sentence Predication，NSP）通过学习句子间关系特征，预测两个句子的位置是否相邻