MSSQL 数据类型转化过程中精度问题注意事项

-- 这种方式会有问题
-- 结果:9.52000000000001
SELECT CONVERT(FLOAT,151.250000)-CONVERT(FLOAT,141.730000)

-- 下面这种方式才是正确的(推荐
-- 先相减,然后再转化
-- 结果:9.52
SELECT CONVERT(FLOAT,151.250000-141.730000)

 

posted @ 2014-06-17 21:10  xust  阅读(348)  评论(0编辑  收藏  举报