openvino概述

下面是openvino cpu、集成显卡、神经棒的性能：

 

 

 

 

 

 

 

 

　　 使用openvino的时候，你的模型一般都是.pt等等格式，可以先转为onnx格式，再基于ModelOptimizer转为IR格式(xml +bin)；

另外，模型优化器还能优化网络结构(水平、垂直融合，添加、删除一个or 多个层)

 

 

 

 openvino提供了各种预训练模型，如下图：

 

 

 性能测试：

　　如果你想测某一层的性能耗时，可以使用一下指令：

 

 DL workBench用于可视化模型各项性能指标。