会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
Pengzquan
博客园
首页
新随笔
联系
订阅
管理
2024年10月26日
模型参数量计算
摘要: 模型参数量的计算公式 隐藏层大小为:\(d_{model}\) transformer的layer数:\(N\) 嵌入层大小为:\(V_{dim}\) transformer模型参数大小 = \(N\) * (12 * \(d_{model}^2\)+ 13*\(d_{model}\))+ \(V_
阅读全文
posted @ 2024-10-26 20:01 蔚蓝色の天空
阅读(64)
评论(0)
推荐(0)
编辑