win10安装TensorRT
1、下载
NVIDIA TensorRT 8.x Download | NVIDIA Developer
EA是提前发布的不稳定版本,GA是经过完备测试的稳定版
解压后,我放到了C盘
从名字可以看出对应的cuda版本、cudnn版本。下载对应的cuda、cudnn。onnxruntime、cuda、cudnn、显卡驱动 - 夕西行 - 博客园 (cnblogs.com)
2、解压放到cuda目录
C:\TensorRT-8.2.4.2\lib里的dll、lib文件分别复制到cuda目录的bin、lib/x64中
把include里的文件复制到cuda目录的include里。
3、测试
打开C:\TensorRT-8.2.4.2.Windows10.x86_64.cuda-11.4.cudnn8.2\TensorRT-8.2.4.2\samples\sampleMNIST里的sln
VS里配置,运行即可。
4、tensorrt文件夹可以删掉。
【推荐学习的博客】
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· 10年+ .NET Coder 心语 ── 封装的思维:从隐藏、稳定开始理解其本质意义
· 地球OL攻略 —— 某应届生求职总结
· 提示词工程——AI应用必不可少的技术
· 字符编码:从基础到乱码解决
· Open-Sora 2.0 重磅开源!