会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
傻傻的猪
博客园
首页
新随笔
联系
订阅
管理
2022年9月7日
Transformer中的Position Embedding和RNN/CNN中的Position Encoding的区别
摘要: 区别:Position Embedding是学习式,Position Encoding是固定式 Transformer的结构是基于Self-Attention的,与RNN/CNN不同,不包含序列信息,但是序列信息又极其重要,为了融合序列信息,就需要位置编码了 Transformer的论文提出了两种编
阅读全文
posted @ 2022-09-07 17:38 君君姐
阅读(357)
评论(0)
推荐(1)
编辑
公告