07 2021 档案
Word2vec学习
摘要:什么是Word2vec?为什么要有这么一个东西? word2vec是 word embedding 的方式之一, 属于NLP领域。他是将词转化为「可计算」「结构化」的向量的过程。 Word2vec的两种训练方式 CBOW(Continuous Bag-of-Words Model)和Skip-gra
BERT
摘要:Word Embedding、RNN/LSTM/GRU+Seq2Seq+Attention+Self-Attention机制和Contextual Word Embedding(Universal Sentence Embedding) Fine-Tuning