【模型部署】在C++和Python中搭建TensorRT环境

1. C++端安装

TensorRT安装过程比较简单,和OpenCV类似,特别需要注意的是与CUDA和cuDNN版本的对应。

1.1 CUDA和cuDNN版本

在安装TensorRT之前,请严格按照官方要求安装与TensorRT相匹配的CUDA和cuDNN。各版本安装要求可参考官方文档。以TensorRT8.2.5为例,各平台支持的CUDA和cuDNN版本如下,我下载的版本是CUDA11.3 update1 + cuDNN8.2.1

1.2 TensorRT下载

官网下载链接:https://developer.nvidia.com/nvidia-tensorrt-download(需要注册NVIDIA账号)

点击上边网址,下载想要版本的安装包,解压后如下

 

1.3 Path环境变量

1.4 VS中配置

VC++目录包含目录:

VC++目录库目录:

链接器输入:

2. Python端安装

打开TensorRT安装包中的python文件夹,这里提供了不同python版本的TensorRT包

进入当前使用的python环境下安装

pip install D:\TensorRT-8.2.5.1\python\tensorrt-8.2.5.1-cp38-none-win_amd64.whl

另外还需要安装pycuda,这里pip install pycuda老是失败,可以先在下边网站下载好安装包,再进行安装

官方下载地址:https://pypi.org/project/pycuda/#description

第三方地址:https://www.lfd.uci.edu/~gohlke/pythonlibs/#pycuda(下载速度快)

下载完成,进入python环境安装

pip install D:\pycuda-2021.1+cuda114-cp38-cp38-win_amd64.whl

 

posted @ 2023-03-19 20:40  最菜程序员Sxx  阅读(579)  评论(0编辑  收藏  举报