摘要: MLIR算子量化Quantization 本文概述了MLIR量化系统的设计。虽然术语“量化”是高度过载的,用于将浮点计算转换为以整数数学表示,适配的变量进行推理的技术的相当窄的范围,如低位深度推理引擎(如TFLite)所支持的,各种加速器硬件和许多DSP。 很大程度上受到了本文所采用的方法的启发,其 阅读全文
posted @ 2021-01-21 08:46 吴建明wujianming 阅读(710) 评论(0) 推荐(0) 编辑
摘要: 最大限度地减少块输出中间结果的计算和存储 Expression Folding 表达式折叠 表达式折叠优化代码,以最小化块输出处中间结果的计算,并将这些结果存储在临时缓冲区或变量中。启用“表达式折叠”时,代码生成器将块计算折叠(折叠)为单个表达式,而不是为模型中的每个块生成单独的代码语句和存储声明。 阅读全文
posted @ 2021-01-21 07:30 吴建明wujianming 阅读(92) 评论(0) 推荐(0) 编辑
摘要: 向量算子优化Vector Operation Optimization 查看MATLAB命令View MATLAB Command 示例显示Simulink®编码器™ ,将生成向量的块输出,设置为标量,优化生成的代码,例如Mux、Sum、Gain和Bus。这种优化通过用局部变量替换临时局部数组来减少 阅读全文
posted @ 2021-01-21 06:58 吴建明wujianming 阅读(191) 评论(0) 推荐(0) 编辑