2009年7月21日
两个双精度数相减后尾数错误的问题
摘要： C#上面两行代码相减后出现c的值错误的问题 打印出来的值都是0.7然后对c监控的时候发现c的值不是0.7这个问题非常的怪异 用a=3.5是正确的答案 用3.6 3.61 3.7 ……就出现了误差。怪异啊 阅读全文
posted @ 2009-07-21 11:08 张巍的博客 阅读(426) 评论(0) 推荐(0) 编辑