onnxruntime、cuda、cudnn、显卡驱动
可以自己编译,也可以省事用已有的。注意版本对应。
下载地址:
cuDNN(进去就知道下载的CUDA版本了):cuDNN Archive | NVIDIA Developer
CUDA:CUDA Toolkit Archive | NVIDIA Developer ,把下载链接里的.com改为.cn,速度可能更快。如果还是慢,登录账号后再试试。
onnxruntime(也有现成的Release):microsoft/onnxruntime: ONNX Runtime: cross-platform, high performance ML inferencing and training accelerator (github.com)
【自己编译】
如果想自己编译onnxruntime,注意cuDNN与CUDA版本,因为cuDNN更新较慢,所以先看cuDNN支持的CUDA版本。
有关编译的教程:
onnxruntime (C++/CUDA) 编译安装及部署_白色小靴的博客-CSDN博客
windows10 编译onnxruntime_a little cabbage的博客-CSDN博客_win10 编译onnxruntime
【用已有的】
onnxruntime——cuda——cudnn:
cuda——显卡驱动:
CUDA Compatibility :: NVIDIA Data Center GPU Driver Documentation