.net 带小数减法得到的结果出错，小数位溢出很多。
2015-02-27 13:09 whitecf 阅读(336) 评论(0) 编辑 收藏 举报-
现象：64 - 98.01的正确结果为34.01，但在.net中运算的结果是34.010000000000005
?64 - 98.01
-34.010000000000005
?64.0 - 98.01
-34.010000000000005
-
原因：98.01的类型是DOUBLE，浮点数的存储方式和其它不一样，它使用基数和指数两部分存储，因此计算时会出现误差
-
解决：运算时把Double类型转换成Decimal类型
?CDec(64)-CDec(98.01)
-34.01D
?64d - 98.01d
-34.01D
