TensorRT sample_mnist_api代码解析

代码流程如下:

1.加在权重
2.创建builder
3.利用builder创建网络定义network以及配置文件config
4.利用builder、network、config创建网络
包括:a)搭建网络结构,b)创建引擎
5.推理
a)创建处理缓存区与引擎交互的内存buffer
b)利用引擎创建执行推理的上下文context
c)对输入进行预处理(减去均值)
d)将buffer拷贝到gpu
e)context执行推理
f)结果拷贝回buffer
6.释放加载模型里的内存
posted @ 2020-11-09 21:49  快乐码小农  阅读(219)  评论(0编辑  收藏  举报