摘要: ##### 什么是量化? - 量化是一种将浮点数转换为整数的方法,可以减少计算量和存储空间,提高模型的运行效率和部署能力。 - 量化的过程可以表示为: $$Q(x) = round(\frac{x}{s}) + z$$ - 其中,$x$是浮点数,$s$是缩放因子(scale factor),$z$是 阅读全文
posted @ 2023-06-21 18:38 李白的白 阅读(929) 评论(0) 推荐(0) 编辑
摘要: # 对已有YOLO加速模块进行Layer0仿真 ```markdown # Layer0仿真模块 ## 输入数据 - 从文本文件中读取 - 每个通道144个8位数据 - 文件名如下: - layer0_txt/r_data.txt - layer0_txt/g_data.txt - layer0_t 阅读全文
posted @ 2023-06-21 18:36 李白的白 阅读(119) 评论(0) 推荐(0) 编辑