2024年4月10日
QAT量化感知训练
摘要： QAT量化感知训练 基本原理 相比训练后量化因为其不是全局最优而导致的精度损失，QAT量化感知训练能做到基于loss优化的全局最优，而尽可能的降低量化精度损失，其基本原理是：在fp32模型训练中就提前引入推理时量化导致的权重与激活的误差，用任务loss在训练集上来优化可学习的权重及量化的缩放与zp值 阅读全文
posted @ 2024-04-10 04:59 吴建明wujianming 阅读(464) 评论(0) 推荐(0) 编辑