浮点数运算误差问题

在类型转换的总结中,我们说过不能让浮点数进行等级运算,这样会出现误差。比如1.0-0.8,答案不是0.2,而是0.199999999999999996,为什么?这是java遵守IEEE754浮点运算规范的结果。

例如我们0.5会使用1/2表示,0.75会使用1/2+1/4表示,0.1会使用1/16+1/32+1/25+1/512+1/4096+1/8192+....无限循环下去,无法进行准确表示,所以会造成精度上的误差。

double a=0.1;
double b=0.1;
double c=0.1;
if((a+b+c)==0.3){
     System.out.println("等于0.3");
}else{
      System.out.println("不等于0.3");
}

由于浮点数误差的关系,显示结果不等于3.0,我们要小心使用浮点数,那么我们如何进行浮点数之间的运算哪?

可以使用java.math.BigDecimal类

package cn.yqg.day1;

import java.math.BigDecimal;

public class A {
  public static void main(String[] args) {
    BigDecimal a=new BigDecimal("1.0");
    BigDecimal b=new BigDecimal("0.8");
    BigDecimal c=a.subtract(b);
    System.out.println(c);
}
}

结果为0.2;注意参数带“”,我们可以使用Bigdecimal进行浮点数的加减乘除等运算。

---------------------------------------------------------------------------------------------------------

补充:如果我们使用浮点数和int进行运算,结果是浮点数。

posted @ 2018-07-16 17:59  执棋手  阅读(445)  评论(0编辑  收藏  举报