MSSQL 数据类型转化过程中精度问题注意事项
-- 这种方式会有问题
-- 结果:9.52000000000001
SELECT CONVERT(FLOAT,151.250000)-CONVERT(FLOAT,141.730000)
-- 下面这种方式才是正确的(推荐)
-- 先相减,然后再转化
-- 结果:9.52
SELECT CONVERT(FLOAT,151.250000-141.730000)
-- 这种方式会有问题
-- 结果:9.52000000000001
SELECT CONVERT(FLOAT,151.250000)-CONVERT(FLOAT,141.730000)
-- 下面这种方式才是正确的(推荐)
-- 先相减,然后再转化
-- 结果:9.52
SELECT CONVERT(FLOAT,151.250000-141.730000)