2023年11月20日
浮点数格式：FP64, FP32, FP16, BFLOAT16, TF32之间的相互区别
摘要： 浮点数格式 （参考1，参考2） 浮点数是一种用二进制表示的实数，它由三个部分组成：sign（符号位）、exponent（指数位）和fraction（小数位）。不同的浮点数格式有不同的位数分配给这三个部分，从而影响了它们能表示的数值范围和精度。例如： 下面是一些常见的浮点数格式的介绍： FP64（双精 阅读全文
posted @ 2023-11-20 10:08 kkzhang 阅读(5442) 评论(0) 推荐(0) 编辑