使用 TVMC 编译和优化模型

处理流程

tvmc compile: 输入 ONNX model。输出 TVM runtime tar 文件

python preprocess.py: 输入 jpg 格式文件。输出：Numpy npz格式文件

tvmc run: 输入：TVM runtime tar 文件, 转换后的Numpy格式。输出：Numpy格式tensor文件

输出文件解读：python postprocess.py：输入：推理输出的tensor文件。输出：识别准确率log信息

实现

参考

posted @   山岚2013  阅读(34)  评论(0)  编辑  收藏  举报
相关博文：
·  (工具) TCMalloc笔记
·  Ubuntu环境下LLVM 15.0 完全编译 附windows编译LLVM master
·  使用TVMC进行模型的编译与优化
·  3、使用 TVMC Python 入门：TVM 的高级 API
·  TVMC python:一种TVM的高级API
阅读排行：
· TypeScript + Deepseek 打造卜卦网站：技术与玄学的结合
· 阿里巴巴 QwQ-32B真的超越了 DeepSeek R-1吗？
· 【译】Visual Studio 中新的强大生产力特性
· 10年+ .NET Coder 心语 ── 封装的思维：从隐藏、稳定开始理解其本质意义
· 【设计模式】告别冗长if-else语句：使用策略模式优化代码结构
点击右上角即可分享
微信分享提示
AI IDE Trae