C# double 类型计算精读不准确,有时会出现很多小数点
在精确计算中使用浮点数是非常危险的,尽管C#在浮点数运算时采取了很多措施使得浮点数运算的结果看起来是非常正常的,有时候还是出现了很多小数点。
double t1 = 1.03;
double t2 = 0.42;
Console.WriteLine(t1 - t2); //0.6100000000000001
以上输出结果就是浮点数精度损失的问题,最重要的是,在精度损失的时候,不会报告任何的错误,也不会有任何的异常产生。
所有有小数点计算时,尽可能用更高精度的 decimal 型,初始化decimal类型时需要使用m/M后缀,不用的话会被被认为隐式的将double类型转换为decimal类型而报错。(float也是,加f/F后缀)
decimal t1 = 1.03m;
decimal t2 = 0.42m;
Console.WriteLine(t1 - t2); //0.61