2012年3月26日
float 类型精度和两数比较大小
摘要： Windows VS2008 下,float型精度是7位小数. 在精度范围内,可以直接用< , > , == 逻辑判断两个float类型数据的大小. 在精度范围之外,多余数位将被忽略,从而分不同情况 : 以下是小数位为9,8,7的验证.结果证明 7位为有效小数位数,>7位的都忽略. 若多余位之前的有效位数字相等 , 则判断为两数相等 , 既多余位已经不起作用; 若多余位之前的有效位数字... 阅读全文
posted @ 2012-03-26 13:32 gaoxw0511 阅读(4363) 评论(0) 推荐(0) 编辑