Datawhale 之NLP学习-打卡（六）

Task6 基于深度学习的文本分类3

1.学习目标

• 了解Transformer的原理和基于预训练语言模型（Bert）的词表示

2.文本表示方法Part4

• Transformer原理
• 基于预训练语言模型的词表示

3.基于Bert的文本分类

• Bert Pretrain
• Bert Finetune

4.本章小结

5.本章作业