讨厌的real和float数据
摘要：
起因：declare @w1 as real,@h1 as realset @w1=390set @h1=1865select @w1*@h1/1000000.00这个结果是什么？答案是：0.72735没错。你看到的是0.72735，计算器算也是这个结果。如果我们使用round四舍五入，如：select ROUND(@w1*@h1/1000000.00,4)，结果想当然是：0.7274错了。结果是：0.72729999999999995，约等于0.7273！怪了，为什么会这样？这个与浮点数的存储及机制有关！看sql server2000的帮助:用于表示浮点数字数据的近似数字数据类型。浮点数据为 阅读全文
posted @ 2012-08-15 17:03 木人（我现在不是老大） 阅读(2377) 评论(0) 推荐(0) 编辑
