随笔分类 - 数据类型
摘要：TF16 是指 TensorFlow 的混合精度（Mixed Precision）训练中使用的 16 位浮点数格式。它通常与 FP16（16 位浮点数） 和 BF16（Brain Floating Point 16 位浮点数） 相结合使用。TF16 是 TensorFlow 中对这些 16 位浮点格
阅读全文
摘要：在 IEEE 754 标准中，浮点数表示的指数的底（基数）是 2。这意味着浮点数表示遵循二进制科学记数法，即数值表示为尾数（Significand 或 Mantissa）乘以 2 的指数次方。 浮点数表示 浮点数的表示形式通常为： 其中： sign：符号位，0 表示正数，1 表示负数。 fracti
阅读全文
