TensorRT Development document (Python)
使用python API的优点是方便于数据预处理以及后续处理,可以使用numpy和scipy。但是python API的安全性不如C++ API。
使用Python API,结构较为清晰,分为四部:
1、Creating A Network Definition In Python (用python定义网络)
2、Building An Engine In Python
3、Serializing A Model In Python
4、Performing Inference In Python
Import TensorRT
import tensorrt as trt
logging interface : reports errors, warnings, and informational messages
TRT_LOGGER = trt.Logger(trt.Logger.WARNING)
Creating A Network Definition
1、From Scratch
2、Importing From ONNX