摘要: 比如: long l1 = 4294967297; //二进制为1 00000000 00000000 00000000 00000001 float f1 = l1; var str1 = ToBinString(BitConverter.GetBytes(f1)); long l2 = (lon 阅读全文
posted @ 2024-12-10 23:19 yanghui01 阅读(15) 评论(0) 推荐(0) 编辑
摘要: 6位是绝对有效数字。第7位有时候准确,有时候不准确。 例1 float f1 = 1234560.991f; Console.WriteLine($"{f1}"); 执行上面的代码,会输出1234561,这个例子中就是第7位数字不准。 按float转二进制步骤分析下: 1) 整数部分的二进制为: 1 阅读全文
posted @ 2024-12-10 23:16 yanghui01 阅读(223) 评论(0) 推荐(0) 编辑
摘要: float最大值 即float.MaxValue,二进制为:0(111 1111 0)(111 1111 1111 1111 1111 1111)。 转为10进制: 1)符号位(31位) 0,即正数 2)求出指数(23~30位) 指数=指数部分的值-127:0b1111 1110 - 127 = 2 阅读全文
posted @ 2024-12-10 23:15 yanghui01 阅读(22) 评论(0) 推荐(0) 编辑
点击右上角即可分享
微信分享提示