05 2022 档案

ONNX Runtime 源码阅读：子图（sub-graph）应该如何理解？
摘要：在 ONNX Runtime 源码（onnxruntime/core/framework/graph_partitioner.cc，函数GraphPartitioner::Partition）中，有这么一段注释： NOTE: A 'sub-graph' is a subset of nodes wi 阅读全文
posted @ 2022-05-10 11:28 虔诚的树 阅读(1014) 评论(0) 推荐(0)
ONNX Runtime 源码阅读：各类 ml-Values 在内存管理上的分类
摘要：出处：代码的注释内容 include/onnxruntime/core/framework/alloc_kind.h ONNX Runtime 在推理流程中，存在以下几类值(ml-Values)： inference inputs：由调用者（caller）分配以及释放内存空间，默认情况下运行时（ru 阅读全文
posted @ 2022-05-07 14:56 虔诚的树 阅读(665) 评论(0) 推荐(0)
ONNX Runtime 源码阅读：Graph::SetGraphInputsOutputs() 函数
摘要：前言 为了深入理解ONNX Runtime的底层机制，本文将对 Graph::SetGraphInputsOutputs() 的代码逐行分析。 正文 首先判断Graph是否从ONNX文件中加载所得： if (is_loaded_from_model_file_) return Status::OK( 阅读全文
posted @ 2022-05-04 09:52 虔诚的树 阅读(584) 评论(0) 推荐(0)

点击右上角即可分享
微信分享提示