会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
//
// // //
努力的孔子
2022年10月18日
transformer-正弦位置编码
摘要: 位置编码,对句子中词汇位置进行编码 为什么需要位置编码 在任何语言中,词语的位置和顺序对句子的意思都至关重要; 在 RNN 中,以序列的模式逐个处理句子中的词语,这种网络结构天然保存了词语的顺序信息; 但在 词嵌入 时,单词并不是以 词在 句子中的顺序进行 embedding 的,而是很随意的把所有
阅读全文
posted @ 2022-10-18 13:36 努力的孔子
阅读(1494)
评论(0)
推荐(0)
编辑
导航
博客园
首页
新随笔
新文章
联系
订阅
管理