2021年11月9日

推理server 三 torchserve示例

摘要: kserve在用torchserve时,需要按照这个文档中指示,将torchserve重新build一下:https://github.com/pytorch/serve/tree/master/kubernetes/kfserving docker run -it --network=host - 阅读全文

posted @ 2021-11-09 11:25 MissSimple 阅读(166) 评论(0) 推荐(0) 编辑

推理server 二 tensorflow serving使用示例

摘要: docker run --network=host -v /home/test/models/:/mnt/models tensorflow-serving:v1.14.0 --port=9045 --rest_api_port=8040 --model_name="flowers" --model 阅读全文

posted @ 2021-11-09 11:02 MissSimple 阅读(70) 评论(0) 推荐(0) 编辑

导航