// // // //

2022年8月16日

摘要: pytorch 实现剪枝的思路是 生成一个掩码,然后同时保存 原参数、mask、新参数,如下图 pytorch 剪枝分为 局部剪枝、全局剪枝、自定义剪枝; 局部剪枝 是对 模型内 的部分模块 的 部分参数 进行剪枝,全局剪枝是对 整个模型进行剪枝; 本文旨在记录 pytorch 剪枝模块的用法,首先 阅读全文
posted @ 2022-08-16 19:11 努力的孔子 阅读(1495) 评论(0) 推荐(1) 编辑
 
摘要: 深度学习网络模型从卷积层到全连接层存在着大量冗余的参数,大量神经元激活值趋近于0,将这些神经元去除后可以表现出同样的模型表达能力,这种情况被称为过参数化,而对应的技术则被称为模型剪枝。 卷积核的元素可分为 单个像素、行列、通道、卷积核,可分别在 不同元素上实现剪枝,如下图 细粒度剪枝(fine-gr 阅读全文
posted @ 2022-08-16 18:46 努力的孔子 阅读(262) 评论(0) 推荐(0) 编辑
 
摘要: 看代码 from keras.utils.np_utils import * # 类别向量定义 b = [0, 1, 2, 3] # 调用to_categorical将b按照4个类别来进行转换 b = to_categorical(b, 4) print(b) # [[1. 0. 0. 0.] # 阅读全文
posted @ 2022-08-16 14:30 努力的孔子 阅读(79) 评论(0) 推荐(0) 编辑