摘要:
深度学习领域常用的基于CPU/GPU的推理方式有OpenCV DNN、ONNXRuntime、TensorRT以及OpenVINO。这几种方式的推理过程可以统一用下图来概述。整体可分为模型初始化部分和推理部分,后者包括步骤2-5。 以GoogLeNet模型为例,测得几种推理方式在推理部分的耗时如下: 阅读全文
摘要:
1. C++端安装 TensorRT安装过程比较简单,和OpenCV类似,特别需要注意的是与CUDA和cuDNN版本的对应。 1.1 CUDA和cuDNN版本 在安装TensorRT之前,请严格按照官方要求安装与TensorRT相匹配的CUDA和cuDNN。各版本安装要求可参考官方文档。以Tenso 阅读全文
摘要:
1. C++端配置 官网下载链接:https://onnxruntime.ai/ github下载地址:https://github.com/microsoft/onnxruntime/releases 1.1 GPU版本 在GPU端使用OnnxRuntime进行推理时,需要提前安装对应版本的CUD 阅读全文
摘要:
1. C++端配置 1.1 下载安装OpenVINO OpenVINO官网下载网址:https://www.intel.com/content/www/us/en/developer/tools/openvino-toolkit/download.html 方式一:下载exe文件进行安装 进入官网下 阅读全文
摘要:
实现语言:C++ 1. 散列表 散列表,英文名称为Hash Table,又称哈希表、杂凑表等。 线性表和树表的查找是通过比较关键字的方法,查找的效率取决于关键字的比较次数。 而散列表是根据关键字直接访问的数据结构。散列表通过散列函数将关键字映射到存储地址,建立了关键字和存储地址之间的一种直接映射关系 阅读全文
摘要:
实现语言:C++ 1. 线性表相关概念 线性表(Linear List) 是由n(n≥0)个具有相同特性(数据类型)的数据元素(结点)a1,a2,...,ai-1,ai,ai+1,...,an组成的有限序列。 其中,a1为线性起点(起始结点),an为线性终点(终端结点)。对于每一个数据元素ai,我们 阅读全文
摘要:
前言:最近研究深度学习,安装了好多环境,记录一下,方便后续查阅。 1. Anaconda软件安装 1.1 Anaconda Anaconda是一个用于科学计算的Python发行版,支持Linux、Mac、Windows,包含了众多流行的科学计算、数据分析的Python包。请自行到官网下载安装,下载速 阅读全文
摘要:
前言:最近项目中需要用到字符串加解密,遂研究了一波,发现密码学真的是博大精深,好多算法的设计都相当巧妙,学到了不少东西,在这里做个小小的总结,方便后续查阅。 文中关键词: 明文(P,Plaintext) 密文(C,Ciphertext) 密钥(K,Key) 加密算法(E,Encypted Algor 阅读全文
摘要:
1、一些C++基础知识 模板类string的设计属于底层,其中运用到了很多C++的编程技巧,比如模板、迭代器、友元、函数和运算符重载、内联等等,为了便于后续理解string类,这里先对涉及到的概念做个简单的介绍。C++基础比较扎实的童鞋可以直接跳到第三节。 1.1 typedef 1.1.1 四种常 阅读全文
摘要:
论文地址:https://arxiv.org/abs/1512.02325 源码地址:http://github.com/amdegroot/ssd.pytorch 环境1:torch1.9.0+CPU 环境2:torch1.8.1+cu102、torchvision0.9.1+cu102 1. S 阅读全文