摘要:
主流机器学习框架都支持动态图和静态图。 动态图是即时编译的,也就是有一个 op 和输入之后立即发 kernel 执行计算得到结果并返回。 静态图是获取到整个程序结构之后构建了计算序列之后再进行计算的,比如有 op1、op2…. opn,还有输入 input1、input2…inputm,然后执行整个 阅读全文
摘要:
机器学习程序从前端到后端需要编译成不同的 IR 来获得更好的优化性能,在 mlsys 中这个 IR 就是计算图。 对机器学习程序描述的调度执行、自动更新模型所需的梯度都需要依赖计算图。 一个计算图的逻辑结构大概是下图右边的前向部分: ![](https://img2023.cnblogs.com/b 阅读全文
摘要:
![](https://img2023.cnblogs.com/blog/2078361/202308/2078361-20230805231458388-197758926.png) 机器学习框架通常提供高层语言(比如 Python)作为给用户使用的接口,在 Python 层用户可以做的事有: - 阅读全文
摘要:
![](https://img2023.cnblogs.com/blog/2078361/202308/2078361-20230805231210257-549220284.png) - 编程接口:一般用 Python 作为给用户的接口,主要原因就是简单易用、生态好; - 计算图:计算图定义了用户 阅读全文