2020年3月6日
浮点运算产生的误差
摘要： 浮点数在计算机硬件中表示为以 2 为基数（二进制）的小数。举例而言，十进制的小数 0.125 等于 1/10 + 2/100 + 5/1000 ，同理，二进制的小数 0.001 等于0/2 + 0/4 + 1/8。这两个小数具有相同的值，唯一真正的区别是第一个是以 10 为基数的小数表示法，第二个则 阅读全文
posted @ 2020-03-06 19:40 只猫 阅读(512) 评论(0) 推荐(0) 编辑