2020年9月27日
处理精度丢之-浮点数在计算机中是如何存储的
摘要： 平时项目开发中经常会遇到一些精度丢失的问题，像老生常谈的0.1 + 0.2 ！== 0.3，只知道是计算机的二进制实现和位数限制，有些数无法有限表示，但却没认真去亲自检测过。今天心情好，来测试一把。 在此之前，我们先来复习一下还给老师的知识点 二进制转十进制： 十进制转二进制： 整数： 小数： 知道 阅读全文
posted @ 2020-09-27 23:33 Tiboo 阅读(416) 评论(0) 推荐(0) 编辑