摘要: 前言 在上一篇博客中:【推理引擎】ONNXRuntime 的架构设计,主要从文档上对ONNXRuntime的执行流程进行了梳理,但是想要深入理解,还需从源码角度进行分析。 本文以目标检测模型NanoDet作为分析的基础,部分代码主要参考:超轻量级NanoDet MNN/TNN/NCNN/ONNXRu 阅读全文
posted @ 2022-03-29 15:40 虔诚的树 阅读(6047) 评论(0) 推荐(0) 编辑
摘要: ONNXRuntime,深度学习领域的神经网络模型推理框架,从名字中可以看出它和 ONNX 的关系:以 ONNX 模型作为中间表达(IR)的运行时(Runtime)。 本文许多内容翻译于官方文档:https://onnxruntime.ai/docs/reference/high-level-des 阅读全文
posted @ 2022-03-29 08:40 虔诚的树 阅读(3513) 评论(0) 推荐(0) 编辑