2021年4月9日
调研--模型压缩
摘要： 需求 占内存太大：但是没有想明白哪里占？参数？ 那就计算一下参数：每个特征哈希出多少个结果 常见方法 Pruning（修剪）: 因为神经网络很多权重几乎为0，这类参数作用不大，部分参数删掉也不影响模型预测效果 Weight Factorization（权重分解）：权重矩阵可以进行低秩矩阵分解，即lo 阅读全文
posted @ 2021-04-09 10:13 nuo-o 阅读(35) 评论(0) 推荐(0) 编辑