2015年6月8日
浮点数精度计算出现的问题
摘要： 当我们保存浮点数后再读取浮点数，结果可能会出现一点点偏差。比如：float ft1 = 20.2;(这样编译器会报警告，因为小点数默认为double)CString str;str.Format(_T("%f"),ft1);这时候ft1的值等于20.200001。float ft2 = 20.8;C... 阅读全文
posted @ 2015-06-08 14:27 廖先生 阅读(2047) 评论(0) 推荐(0) 编辑