2015年3月27日
浮点数精度缺失问题
摘要： 原文链接http://www.cnblogs.com/jillzhang/archive/2007/06/24/793901.html 只摘录了我需要的部分。 单精度的2.2转换为双精度后，精确到小数点后13位后变为了2.2000000476837，而单精度的2.25转换为双精度后，变为了2.250 阅读全文
posted @ 2015-03-27 12:44 thought 阅读(1505) 评论(0) 推荐(0) 编辑