浮点数是否相等

计算机表示浮点数(float或double类型)都有一个精度限制,对于超出了精度限制的浮点数,计算机会把它们的精度之外的小数部分截断。因此,本来不相等的两个浮点数在计算机中可能就变成相等的了

abs( fa - fb) < 0.000001

posted @ 2023-02-21 14:38  小秦同学在上学  阅读(24)  评论(0编辑  收藏  举报