随笔分类 - 人工智能
摘要:1、quantize 量化; normalize(归一化)2、Convolution指卷积 DeConvolution反卷积 innerproduct内积 mnist数据集 gradient梯度3、NNDT 编译器 act编译4、upsample:利用传统插值方法进行上采样。往往会在upsample
阅读全文
摘要:
量化就是将神经网络的浮点算法转换为定点。 量化有若干相似的术语。低精度(Low precision)可能是最通用的概念。常规精度一般使用 FP32(32位浮点,单精度)存储模型权重;低精度则表示 FP16(半精度浮点),INT8(8位的定点整数)等等数值格式。不过目前低精度往往指代 INT8。 量化
阅读全文
