relay.build调用关系
relay.build调用关系
在用TVM优化过程中,常见demo如下图:
relay.build背后的调用机制梳理如下:
python中的build函数实现如下,此方法实际调用了BuildModule类的build方法,
BuildModule获取的C++函数build方法,此处涉及混合编程:
_build_module._BuildModule() 来自于这句注册:
tvm._ffi._init_api("relay.build_module", __name__)
self.mod["build"]调用RelayBuildModule的GetFunction方法,其中name为“build”:
RelayBuildModule类的build方法如下,主要包含两部分功能,Optimize和codegen:
Optimize函数有很多优化策略,
在此处执行,实际执行的是SequentialNode的operator方法:
Sequential::Sequential构造函数如下,其中name为声明带默认参数:
Sequential的operator->()方法调用的是SequentialNode的operator()方法:
codegen 代码逻辑如下:
GetPackedFun函数调用的是提前注册的函数CreateGraphCodegenMod(),
返回GraphRuntimeCodegenModule类型的对象
graph_codegen_ 指针指向的是GraphRuntimeCodegenModule类的对象,Init方法,
Codegen方法,GetIRModule都来自于注册的GraphRuntimeCodegenModule 实例,
Codegen 调用GraphRuntimeCodegenModule的codegen_,是GraphRuntimeCodegen
的实例指针,调用的codegen代码如下
参考链接:
https://www.pianshen.com/article/24811852648/
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 全程不用写代码,我用AI程序员写了一个飞机大战
· DeepSeek 开源周回顾「GitHub 热点速览」
· 记一次.NET内存居高不下排查解决与启示
· MongoDB 8.0这个新功能碉堡了,比商业数据库还牛
· .NET10 - 预览版1新功能体验(一)