随笔分类 -  轻量级网络

摘要:轻量级模型设计与部署总结轻量级网络的手动设计目前还没用广泛通用的准则,只有一些指导思想,和针对不同芯片平台(不同芯片架构)的一些设计总结,建议大家从经典论文中吸取指导思想和建议,然后自己实际做各个硬件平台的部署和模型性能测试。 阅读全文
posted @ 2022-11-25 16:18 嵌入式视觉 阅读(818) 评论(0) 推荐(1) 编辑
摘要:轻量级网络-VoVNet 论文解读因为 DenseNet 通过用密集连接,来聚合具有不同感受野大小的中间特征,因此它在对象检测任务上表现出良好的性能。虽然特征重用(feature reuse)的使用,让 DenseNet 以少量模型参数和 FLOPs,也能输出有力的特征,但是使用 DenseNet 作为 backbone 的目标检测器却表现出了运行速度慢和效率低下的弊端。作者认为是密集连接(dense connection)带来的输入通道线性增长,从而导高内存访问成本和能耗。为了提高 DenseNet 的效率,作者提出一个新的更高效的网络 VoVet,由 OSA(One-Shot Aggregation,一次聚合)组成。OSA 仅在模块的最后一层聚合前面所有层的特征,这种结构不仅继承了 DenseNet 的多感受野表示多种特征的优点,也解决了密集连接效率低下的问题。基于 VoVNet 的检测器不仅速度比 DenseNet 快 2 倍,能耗也降低了 1.5-4.1 倍。另外,VoVNet 网络的速度和效率还优于 ResNet,并且其对于小目标检测的性能有了显著提高。 阅读全文
posted @ 2022-10-14 22:04 嵌入式视觉 阅读(480) 评论(0) 推荐(0) 编辑
摘要:轻量级网络-CSPNet 论文解读作者认为网络推理成本过高的问题是由于网络优化中的梯度信息重复导致的。CSPNet 通过将梯度的变化从头到尾地集成到特征图中,在减少了计算量的同时可以保证准确率。CSP(Cross Stage Partial Network,简称 CSPNet) 方法可以减少模型计算量和提高运行速度的同时,还不降低模型的精度,是一种更高效的网络设计方法,同时还能和Resnet、Densenet、Darknet 等 backbone 结合在一起。 阅读全文
posted @ 2022-10-14 22:02 嵌入式视觉 阅读(564) 评论(0) 推荐(0) 编辑
摘要:轻量级网络-MobileNetv1 论文解读MobileNet 论文的主要贡献在于提出了一种深度可分离卷积架构(DW+PW 卷积),先通过理论证明这种架构比常规的卷积计算成本(Mult-Adds)更小,然后通过分类、检测等多种实验证明模型的有效性。 阅读全文
posted @ 2022-10-14 22:01 嵌入式视觉 阅读(502) 评论(0) 推荐(0) 编辑
摘要:轻量级网络-RepVGG 论文解读RepVGG 是为 GPU 和专用硬件设计的高效模型,追求高速度、省内存,较少关注参数量和理论计算量。在低算力设备上,可能不如 MobileNet 和 ShuffleNet 系列适用。 阅读全文
posted @ 2022-10-14 21:59 嵌入式视觉 阅读(703) 评论(0) 推荐(0) 编辑
摘要:轻量级网络-ShuffleNetv2 论文解读ShuffleNet v2 论文最大的贡献在于看到了 GPU 访存带宽(内存访问代价 MAC)对于模型推理时间的影响,而不仅仅是模型复杂度,也就是 FLOPs 和参数量 Params 对于推理时间的影响,并由此提出了 4 个轻量级网络设计的原则和一个新颖的 卷积 block 架构-ShuffleNet v2。 阅读全文
posted @ 2022-10-14 21:58 嵌入式视觉 阅读(564) 评论(0) 推荐(0) 编辑

点击右上角即可分享
微信分享提示