2016年5月20日
浮点型数据的比较
摘要： 存储的方式 浮点型数据在内存中的存储机制与整型数据不同，有舍入误差问题，在计算机中用近似表示任意某个实数。其表示形式是一个整数或定点数（即尾数）乘以2的整数次幂的到，类似基于10的科学计数法。 精度问题 float类型小数点前后加起来有效数字只有6位，当给定的float有效数在6位以内转换为字符串时 阅读全文
posted @ 2016-05-20 20:27 KAME 阅读(1377) 评论(0) 推荐(0) 编辑