PyTorch图像分类全流程实战--模型部署07

教程

同济子豪兄 https://space.bilibili.com/1900783

代码运行云GPU平台:https://featurize.cn/?s=d7ce99f842414bfcaea5662a97581bd1

模型部署入门教程(一):模型部署简介 https://zhuanlan.zhihu.com/p/477743341

模型部署

  • 模型部署,指把训练好的模型在特定环境中运行的过程。模型部署要解决模型框架兼容性差和模型运行速度慢这两大问题。
  • 模型部署的常见流水线是“深度学习框架-中间表示-推理引擎”。其中比较常用的一个中间表示是 ONNX。
  • 深度学习模型实际上就是一个计算图。模型部署时通常把模型转换成静态的计算图,即没有控制流(分支语句、循环语句)的计算图。
  1. ONNX-ONNX Runtime部署
  2. OpenVino部署
  3. TensorRT部署
  4. torchserve服务器端部署

【占坑...】

posted on 2023-01-30 23:01  琢磨亿下  阅读(97)  评论(0编辑  收藏  举报

导航