随笔分类 - AI加速器架构设计与实现
摘要:1、输出通路 在典型的卷积神经网络中,每个卷积核(滤波器)将应用于输入数据的一个通道,生成一个输出通道。
阅读全文
摘要:1、卷积 2、池化 池化是缩小高、长方向上的空间的运算。比如,如图所示,进行将 2 × 2的区域集约成1个元素的处理,缩小空间大小。 最大池化 除了Max池化之外,还有Average池化等。相对于Max池化是从目标区域中取出最大值,Average池化则是计算目标区域的平均值。 3、全连接层 http
阅读全文
摘要:1、fp16和fp32有什么区别? FP32(单精度浮点数)和FP16(半精度浮点数)是两种不同的浮点数表示方式,它们在精度和存储空间上有显著的区别。下面是它们的主要区别以及一个示例来说明这些区别: 精度: FP32:单精度浮点数使用32位来表示一个数,其中包括1位符号位、8位指数位和23位尾数位。
阅读全文