摘要：
# 常用剪枝工具 ### pytorch官方案例 `import torch.nn.utils.prune as prune` ```python import torch from torch import nn import torch.nn.utils.prune as prune impor 阅读全文
摘要：
# 2.1修剪标准 ## 2.1.1基于权重大小的修剪标准 参考上一节，对权重做绝对值按大小修剪，或者做L1/L2范数来进行修剪 ## 2.1.2基于梯度幅度来修剪 基于前面可知，我们按照值的大小来修剪，把值小的裁剪掉了，或者说某个权重在训练过程中一直不变，直观上感觉没有那么重要。但其实这样是不对的 阅读全文
摘要：
# 1非结构化剪枝 ## 1.1.1细粒度剪枝 细粒度剪枝是一种特定类型的剪枝方法，它指的是单个权重级别的剪枝。在细粒度剪枝中，模型中的每一个权重都会被独立地考虑是否需要被剪枝。这种方法的优点是可以非常精确地控制模型的大小和复杂性，因为可以精确地选择哪些权重需要被剪枝。然而，这也是一种计算复杂度较高 阅读全文