2020年11月9日
处理精度丢之-如何解决
摘要： 通过上篇我们了解到计算机是如何存储浮点数，那精度丢失是在哪产生的？ 精度丢失场景 举个栗子： 0.1 + 0.2 0.1（ 转化后是以0011无限循环，二进制为满一进一，所以末尾为01 ） 转二进制后：0.0 0011 0011 0011 0011 0011 0011 0011 0011 0011 阅读全文
posted @ 2020-11-09 23:42 Tiboo 阅读(923) 评论(0) 推荐(0) 编辑