关于真正量化和假冒量化的原理分析
摘要:
关于真正量化和假冒量化的原理分析 背景: 目前大量的 GPT-base 模型的量化仅仅对权重(weights)进行量化,而没有对特征图(feature maps)进行量化。这样的量化模型实际上并不是真正的量化模型。 在深度学习中,模型参数(weights)和输入数据(feature maps)都可以 阅读全文
posted @ 2023-05-10 18:40 lexn 阅读(163) 评论(0) 推荐(0) 编辑