2023年4月17日
摘要: 背景:模型压缩包括:模型量化、模型剪枝、权值共享等压缩技术,知识蒸馏等配合模型压缩使用的恢复压缩后小模型精度的常用算法 一 概念 模型剪枝-细粒度划分: 根据修剪的最小单位区分方法 非结构性剪枝:权重剪枝、向量剪枝、kernel剪枝,这类剪枝会造成模型结构不规则化,所以需要特殊的硬件设计来支持稀疏操 阅读全文
posted @ 2023-04-17 20:20 开发者的灵感 阅读(265) 评论(0) 推荐(0) 编辑