Ubuntu18.04安装TensorRT
参考 https://blog.csdn.net/zong596568821xp/article/details/86077553
1. 上网搜索安装NVIDIA-DRIVER,CUDA10.1,CUDNN7.6.5 的方法,并安装好。
2. 安装pycuda:
如果要使用python接口的tensorrt,则需要安装pycuda,命令:pip install 'pycuda>=2017.1.1';
3. 下载TensorRT:
网址:https://developer.nvidia.com/nvidia-tensorrt-download;
注意:CUDA10.1对应TensorRT6;完整安装,建议选择Tar File Install Packages,这样可以自行选择安装位置;
4. 安装指令:
注意:如果使用anaconda建立虚拟环境×××,使用conda activate ×××;
#假设,在home下新建文件夹,命名为tensorrt_tar,然后将下载的压缩文件拷贝进来解压
tar xzvf TensorRT-6.××××.tar
#解压得到TensorRT-6.××××的文件夹,将里边的lib绝对路径添加到环境变量中
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/home/用户名/tensorrt_tar/TensorRT-6.××××/lib
#安装TensorRT
cd TensorRT-6.××/python
pip install tensorrt-6.××.whl
注意:使用ls看一下目录下文件,如果你是python3.7环境,对应选择cp37版本,下面也一样,如果只有单一文件,那就选那个;
#安装UFF
cd TensorRT-6.××/uff
pip install uff-××××.whl
#安装graphsurgeon
cd TensorRT-6.××/graphsurgeon
pip install graphsurgeon-××××.whl
5. 测试
import tensorrt
from tensorflow.python.framework import graph_util
如果没有报错,就代表安装成功了;
6. 如果pycharm报错缺少libnvinfer.so.6等:
ImportError: libnvinfer.so.6: cannot open shared object file: No such file or directory......
方法一:检查 sudo gedit ~/.bashrc 中是否添加了TensorRT的环境变量,如果没有,就将lib和bin添加到环境变量;
方法二:在pycharm的Run/Debug Configurations中添加环境变量 Environment variables:
注意:我这里的目录和上文不一样,你也要选择你的TensorRT解压目录!
完毕。