随笔分类 - 模型压缩/加速/部署

用于模型轻量化/蒸馏/剪枝/部署等代码

摘要：本文章将介绍Linux系统下，如何使用cmake将C++语言编译成so文件，主要介绍如何安装cmake和编译，并使用python调用，细节如下：一. Linux安装cmake方法： ①下载cmake包，网址为：https://cmake.org/download/ 我下载包为：cmake-3.2 阅读全文

posted @ 2022-04-19 11:50 tangjunjun 阅读(3049) 评论(0) 推荐(1) 编辑

使用tensorRT python API搭建MLP网络详解

摘要：本文详细说明，如何使用 tensorrt python API搭建MLP网络，实现推理，帮助与我类似的小白更快上手python版本的方法，我将介绍内容为：简单介绍、linux如何配置tensorRT、MLP网络搭建步骤及详细说明、原始代码与改编代码。同篇关联C++ API文章为：https:// 阅读全文

posted @ 2022-04-17 00:34 tangjunjun 阅读(1013) 评论(0) 推荐(0) 编辑

使用tensorRT C++ API搭建MLP网络详解

摘要：本文详细说明，如何使用 tensorrt C++ API搭建MPL网络，实现推理，帮助与我类似的小白更快上手C++ 版本的方法，我将介绍内容为：简单介绍、visual studio如何配置、MLP网络搭建步骤及详细说明、原始代码与改编代码。同篇关联python API文章为：https://ww 阅读全文

posted @ 2022-04-15 00:47 tangjunjun 阅读(1791) 评论(0) 推荐(0) 编辑

知识蒸馏loss求解方法

摘要：本文简单介绍知识蒸馏教师模型与学生模型使用loss方法：一 .loss求解方法 hard label：训练的学生模型结果与真实标签进行交叉熵loss，类似正常网络训练。 soft label：训练的学生网络与已经训练好的教师网络进行KL相对熵求解，可添加系数，如温度，使其更soft。知乎回答：l 阅读全文

posted @ 2022-03-20 00:51 tangjunjun 阅读(4369) 评论(0) 推荐(1) 编辑