2018年3月6日
知识小结（浮点数问题）
摘要： 当浮点数进行计算的时候，有一些数是没有以准确的精度来存储的，因为在计算机中，这些数进行计算都是根据二进制码进行的，把一个十进制的数转换为二进制，计算机所能存储的位数有上限，这就会导致最后的出来的数不精确，如果解决这个问题呢，我们可以将小数部分乘以10或者100进行整数的计算，最后的结果再除以10或者 阅读全文
posted @ 2018-03-06 09:00 PottyHarry 阅读(205) 评论(0) 推荐(0) 编辑