Windows下使用ONNXRuntime的GPU进行推理时提示cudnn64_8.dll异常
一、问题复现
将模型放到GPU上推理时时发生的异常。
OrtSessionOptionsAppendExecutionProvider_CUDA(session_options, 0);
...
ort_outputs = session_.Run(Ort::RunOptions{ nullptr }, inputNames.data(), &input_tensor_, 1, outNames.data(), outNames.size());
二、解决办法
需将zlibwapi.dll这个库放到cuda的bin目录下。