Fork me on GitHub 返回顶部
2019年2月13日
【译】深度双向Transformer预训练【BERT第一作者分享】
摘要： 翻译自Jacob Devlin分享的slides [TOC] NLP中的预训练 词嵌入是利用深度学习解决自然语言处理问题的基础。 词嵌入（例如word2vec，GloVe）通常是在一个较大的语料库上利用词共现统计预训练得到的。例如下面两个句子中，由于 king 和 queen 附近的上下文时常相同或 阅读全文
posted @ 2019-02-13 11:41 d0main 阅读(6054) 评论(0) 推荐(2) 编辑