1. 检查模型
# pip install onnx
import onnx
# 加载模型
model = onnx.load('model.onnx')
# 检查模型格式是否完整及正确
onnx.checker.check_model(model)
print(model.graph.output)
2. 推理
import onnxruntime as ort
sess = ort.InferenceSession('model.onnx')
inputs = {
# None 处一般为ndarray 等
sess.get_inputs()[0].name: None
}
outputs = sess.run(None, inputs)