double类型的数值计算

package jiajian;

public class jiajian {
	public static void main(String[] args) {
		System.out.println("0.05+0.01=" +(0.05+0.01));
		System.out.println("1.0-0.42=" +(1.0-0.42));
		System.out.println("4.015*100="+(4.015*100));
		System.out.println("123.3/100="+(123.3/100));
	}

}

 

这个涉及到二进制与十进制的转换问题。N进制可以理解为:数值×基数的幂,例如我们熟悉的十进制数123.4=1×10²+2×10+3×(10的0次幂)+4×(10的-1次幂);其它进制的也是同理,例如二进制数11.01=1×2+1×(2的0次幂)+0+1×(2的-2次幂)=十进制的3.25。double类型的数值占用64bit,即64个二进制数,除去最高位表示正负符号的位,在最低位上一定会与实际数据存在误差(除非实际数据恰好是2的n次方)。

结论:使用double类型的的数值进行计算,其结果是不精确的。

posted @ 2018-10-07 20:21  #魂  阅读(1304)  评论(0编辑  收藏  举报