2019年1月4日
一文读懂BERT中的WordPiece
摘要： 1. 前言 2018年最火的论文要属google的BERT，不过今天我们不介绍BERT的模型，而是要介绍BERT中的一个小模块WordPiece。 2. WordPiece原理 现在基本性能好一些的NLP模型，例如OpenAI GPT，google的BERT，在数据预处理的时候都会有WordPiec 阅读全文
posted @ 2019-01-04 23:48 hyc339408769 阅读(50708) 评论(8) 推荐(9) 编辑