参考资料： Welcome to Wenet’s documentation! ‒ Wenet documentation https://arxiv.org/pdf/2102.01547.pdf https://arxiv.org/pdf/2012.05481.pdf https://github Read More
转载： 从 Word Embedding 到 Bert 模型 — 自然语言处理中的预训练技术发展史 1. 图像领域的预训练 我们设计好网络结构以后，对于图像来说一般是 CNN 的多层叠加网络结构，可以先用某个训练集合比如训练集合 A 或者训练集合 B 对这个网络进行预先训练，在 A 任务上或者 B Read More