2014年5月29日
使用浮点类型导致计算误差以及判断误差
摘要： 1.计算误差浮点的精度是可变的，除非分数是2的整数幂次方，否者无法用有限的二进制小数表示。即 0.1 分母为10, 则分数应该是2的3次方至2的4次方之间，具体是多少我也算不出来了···。即这个次方数会为一个特别长的小数，在有限的长度中无法体现出来。则0.1会被表示为一个十分接近0.1的值，如0.1... 阅读全文
posted @ 2014-05-29 22:06 Jersen 阅读(310) 评论(0) 推荐(0) 编辑