B站-水论文的程序猿

2022年7月12日

16 Transformer 的编码器（Encodes）——我在做更优秀的词向量

摘要：博客配套视频链接: https://space.bilibili.com/383551518?spm_id_from=333.1007.0.0 b 站直接看配套 github 链接：https://github.com/nickchen121/Pre-training-language-model 阅读全文

posted @ 2022-07-12 16:57 B站-水论文的程序猿阅读(4284) 评论(0) 推荐(0) 编辑

1401 位置编码公式详细理解补充

posted @ 2022-07-12 16:56 B站-水论文的程序猿阅读(2157) 评论(0) 推荐(1) 编辑

14 Positional Encoding （为什么 Self-Attention 需要位置编码）

posted @ 2022-07-12 16:55 B站-水论文的程序猿阅读(3206) 评论(0) 推荐(5) 编辑

13 Multi-Head Self-Attention（从空间角度解释为什么做多头）

posted @ 2022-07-12 16:54 B站-水论文的程序猿阅读(5159) 评论(0) 推荐(0) 编辑

11 Self-Attention相比较 RNN和LSTM的优缺点

posted @ 2022-07-12 16:53 B站-水论文的程序猿阅读(4024) 评论(0) 推荐(2) 编辑

12 Masked Self-Attention（掩码自注意力机制）

posted @ 2022-07-12 16:53 B站-水论文的程序猿阅读(5661) 评论(0) 推荐(0) 编辑

10 Self-Attention（自注意力机制）

posted @ 2022-07-12 16:52 B站-水论文的程序猿阅读(9703) 评论(1) 推荐(2) 编辑

08 ELMo模型（双向LSTM模型解决词向量多义问题）

posted @ 2022-07-12 16:51 B站-水论文的程序猿阅读(3401) 评论(1) 推荐(3) 编辑

09 什么是注意力机制（Attention ）

posted @ 2022-07-12 16:51 B站-水论文的程序猿阅读(11720) 评论(1) 推荐(6) 编辑

07 预训练语言模型的下游任务改造简介（如何使用词向量）

posted @ 2022-07-12 16:50 B站-水论文的程序猿阅读(2056) 评论(0) 推荐(0) 编辑

【B站：水论文的程序猿】

道阻且长，与君共勉

公告