nodejs运算中的失精问题
nodejs运算中的失精问题
问题呈现
let a=0.1, b=0.2, c=0.3, d=0.4; console.log(a+b) // 0.30000000000000004 console.log(a-c) // -0.19999999999999998 sonsole.log(a-d) // -0.30000000000000004
分析问题
JavaScript中的浮点问题是由于浮点数的存储和计算方式引起的。JavaScript使用IEEE 754标准来表示和处理浮点数，这是一种二进制浮点数表示法。
在计算机中，浮点数使用有限的二进制位数来表示，因此无法精确地表示一些十进制小数。
例如，0.1在二进制中是一个无限循环的数字，无法完全准确地表示。当进行浮点数计算时，这种不精确性可能会导致一些意外的结果。
例如，当两个浮点数相加时，如果它们的小数位数不同，结果可能会出现微小的舍入误差。这是因为计算机在内部使用有限的位数来表示浮点数，因此必须进行舍入以适应这种表示方式。
另一个常见的问题是比较两个浮点数是否相等。由于舍入误差的存在，直接使用等号进行比较可能会导致错误的结果。通常需要使用一些特殊的技巧来比较浮点数，例如设置一个非常小的误差范围
如何解决
可以采取以下几种方法解决:
漫思
