Keras_Quantization
- PTQ训练后量化的实现代码;
- 过程:
- 权重量化;
- infer校准数据集统计
- 示例代码:
- 过程:
- QAT量化训练的实现代码;
- 过程(量化后小模型平均精度损失1~2个点)
- 训练模拟顶点模型(卷积参数为定点数,batch normalization参数为高精度浮点数)
- combines batch normalization with the preceding convolutional layer.
- 模拟定点模型转全定点模型。
- 示例代码:
- 过程(量化后小模型平均精度损失1~2个点)