推理serving框架
摘要：
1、AI-Serving AI-Serving是一款开源的机器学习和深度学习模型部署推理（inference）系统，支持标准的PMML和ONNX格式，同时提供HTTP（REST API）和gRPC两种接口，方便在不同的生产环境中使用。 AI-Serving主要关注在标准交换格式的模型部署，目前PMM 阅读全文
posted @ 2022-04-12 20:18 MissSimple 阅读(121) 评论(0) 推荐(0) 编辑
