2021年6月2日
tensorrt中builder.max_workspace_size的作用
摘要： 首先单位是字节，比如 builder.max_workspace_size = 1<< 30 就是 2^30 bytes 即 1 GB。 它的作用是给出模型中任一层能使用的内存上限。运行时，每一层需要多少内存系统分配多少，并不是每次都分 1 GB，但不会超过 1 GB。 One particular 阅读全文
posted @ 2021-06-02 15:43 略略略—— 阅读(3239) 评论(0) 推荐(0) 编辑