tensorRT安装
1.cmake升级
cmake --version 3.10.0
1)卸载cmake
sudo apt-get remove cmake
2)下载cmake源码
从https://cmake.org/download/下载cmake源码,如cmake-3.17.1.tar.gz
3)在cmake源码所在文件夹中打开命令终端,解压文件:
tar
-zxv -f cmake-3.17.1.
tar
.gz
4)进入解压后的cmake文件,执行:
.
/bootstrap
5)编译构建:
make
6) 安装
sudo make install
sudo make install
7) cmake --version
若出现以下版本信息说明安装成功,可以使用了。
如果出现bash: /usr/bin/cmake: No such file or directory
则是因为cmake 安装在了/usr/local/bin/cmake,把该路径下的文件拷贝到问题路径下即可
2.TensorRT安装
进入官网:https://developer.nvidia.com/nvidia-tensorrt-8x-download,下载对应版本
1)tar xzvf TensorRT-8.0.1.6.Linux.x86_64-gnu.cuda-11.3.cudnn8.2.tar.gz
2)安装TensorRT wheel 文件,根据python版本选择,这里是python3.6
cd TensorRT-8.0.1.6/python
pip install tensorrt-8.0.1.6-cp36-none-linux_x86_64.whl
3)安装graphsurgeon wheel文件
cd TensorRT-8.0.1.6/graphsurgeon
pip install graphsurgeon-0.4.5-py2.py3-none-any.whl
4)安装完后,需要更新系统的环境
# TensorRT
export LD_LIBRARY_PATH=/home/you_name/soft_file/TensorRT-8.0.1.6/lib:$LD_LIBRARY_PATH
export CUDA_INSTALL_DIR=/usr/local/cuda-11.3
export CUDNN_INSTALL_DIR=/usr/local/cuda-11.3
验证一下是否成功
5)验证demo
切换到你包的位置:cd ~~~/TensorRT-8.0.1.6
- 1、在
./samples/sampleMNIST
目录下执行make
命令。可执行文件生成在./bin/
目录下。 - 2、在
./
目录下运行./bin/sample_mnist
即可看到预期结果。
3.下载onnx转tensorrt代码
https://github.com/onnx/onnx-tensorrt
人生,从没有一劳永逸 想要变强,只有不停奔跑