会员
周边
捐助
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
一只小蜗牛
博客园
首页
新随笔
联系
订阅
管理
2021年9月10日
《∞-former: Infinite Memory Transformer》实验部分
摘要: https://arxiv.org/pdf/2109.00301.pdf 本文特点:无限长期记忆、任意长度上下文 本文进行了3个实验: (1)综合实验,长度4000、8000、16000,预测token排序的准确率 (2)语言建模,在Wikitext-103 ,LTM取150 Gaussian RB
阅读全文
posted @ 2021-09-10 11:26 宋岳庭
阅读(175)
评论(0)
推荐(0)
编辑