08 2022 档案
摘要:近日很想验证使用pytorch训练模型转tensorrt各种关系,更深理解基于C++ API接口engine加速理论(Python API接口稍微简单,将不在验证),本文基于ResNet分类网络,收获如下:
收获一:通过C++ API,使用wts方法构建网络网络验证;
收获二:通过C++ API,使用onnx中间结构解析构建构建网络网络验证;
收获三:通过Python、torch,构建分类网络及转wts和onnx方法;
收获四:同时使用windows平台与Linux平台编译验证;
收获五:不同情况下的性能比较;
收获六:Linux编译并运行
结论如下:
结论一:同一个硬件,python转engine引擎,可使用C++ API调用引擎,然测试时间增加;
结论二:若有engine引擎,可只需简单调用反序列化和cotext等操作,无需构建网络或获得引擎的代码依赖;
结论三:onnx和wts转engine推理时间相当(仅此验证),也或许网络过于简单而未表现准确,但肯定wts构建性能最好;
阅读全文
摘要:因其工作需要使用C++读取rtsp流,本文将针对linux下c++版读取视频流保存视频,凌乱且各种错误。现将将其成功执行的流程和代码记录,顺带也写了一份python读取rtsp方法,供自己使用及有需之人参考。本文分三部分,第一部分呈现CMakeLists.txt与rtsp_video源码;第二部分插
阅读全文
摘要:本文主要介绍基于RV1109与RV1126板子编译opencv,并在其运行方法,若编译其它算法,基本也遵循该方法。 为此,我将记录详细过程供读者参考: 一.交叉编译 我们在 x86 平台上,编写程序并编译成可执行程序。这种方式下,我们使用 x86 平台上的工具,开发针对 x86 平台本身的可执行程序
阅读全文