Windows下使用ONNXRuntime的GPU进行推理时提示cudnn64_8.dll异常

一、问题复现

将模型放到GPU上推理时时发生的异常。

OrtSessionOptionsAppendExecutionProvider_CUDA(session_options, 0);

...

ort_outputs = session_.Run(Ort::RunOptions{ nullptr }, inputNames.data(), &input_tensor_, 1, outNames.data(), outNames.size());

二、解决办法

需将zlibwapi.dll这个库放到cuda的bin目录下。

参考来源

posted @ 2024-05-08 09:17  珠峰上吹泡泡  阅读(107)  评论(0编辑  收藏  举报