会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
渐渐的笔记本
博客园
首页
新随笔
联系
订阅
管理
2021年11月11日
TensorRT——INT8推理
摘要: 原理 为什么要使用INT8推理:更高的吞吐量/处理的fps提高以及更低的内存占用(8-bit vs 32-bit) 将FP32模型转换成INT8模型存在的挑战:更低的动态范围和精度 Consider that 32-bit floating-point can represent roughly 4
阅读全文
posted @ 2021-11-11 22:29 渐渐的笔记本
阅读(3435)
评论(0)
推荐(0)
编辑
公告