Windows下使用ONNXRuntime的GPU进行推理时提示cudnn64_8.dll异常
一、问题复现
将模型放到GPU上推理时时发生的异常。
OrtSessionOptionsAppendExecutionProvider_CUDA(session_options, 0);
...
ort_outputs = session_.Run(Ort::RunOptions{ nullptr }, inputNames.data(), &input_tensor_, 1, outNames.data(), outNames.size());
二、解决办法
需将zlibwapi.dll这个库放到cuda的bin目录下。
分类:
AI推理
· [翻译] 为什么 Tracebit 用 C# 开发
· 腾讯ima接入deepseek-r1,借用别人脑子用用成真了~
· Deepseek官网太卡,教你白嫖阿里云的Deepseek-R1满血版
· DeepSeek崛起:程序员“饭碗”被抢,还是职业进化新起点?
· RFID实践——.NET IoT程序读取高频RFID卡/标签