PyTorch图像分类全流程实战--模型部署07
教程
同济子豪兄 https://space.bilibili.com/1900783
代码运行云GPU平台:https://featurize.cn/?s=d7ce99f842414bfcaea5662a97581bd1
模型部署入门教程(一):模型部署简介 https://zhuanlan.zhihu.com/p/477743341
模型部署
- 模型部署,指把训练好的模型在特定环境中运行的过程。模型部署要解决模型框架兼容性差和模型运行速度慢这两大问题。
- 模型部署的常见流水线是“深度学习框架-中间表示-推理引擎”。其中比较常用的一个中间表示是 ONNX。
- 深度学习模型实际上就是一个计算图。模型部署时通常把模型转换成静态的计算图,即没有控制流(分支语句、循环语句)的计算图。
- ONNX-ONNX Runtime部署
- OpenVino部署
- TensorRT部署
- torchserve服务器端部署
【占坑...】