INT整型最小值取负还是本身的问题

在刷LeetCode题目powx-n遇到。


 

题目描述

Implement pow(xn).



public
double pow(double x, int n) { if (n == 0) return 1; else if (n < 0) return pow(1 / x, -n)); else if (n % 2 == 0) return pow(x * x, n / 2); else return x * pow(x * x, n / 2); }

测试用例:(x, -2147483648) 无法通过

原因:-2147483648(整型最小值)取负等于本身。

Integer.MIN_VALUE是-2147483648,是-2147483647减1得到,-2147483647的原码是0xFFFFFFFF,补码是0x80000001。-2147483648的原码是由-2147483647的原码的非符号位减1溢出,得到原码为0x80000000。符号位不变, 其余各位取反, 最后+1,得到补码0x80000000,和原码一样。
当计算机进行取负操作时,是将补码的每一位取反然后+1(通常这么记:-n = ~n + 1)。0x80000000按每位取反后是0x7FFFFFFF,加一之后还是0x80000000,所以-2147483648取负还是-2147483648。

代码修改如下

public double pow(double x, int n) {
    if (n == 0) return 1;
    else if (n < 0) return 1 / x * pow(1 / x, -(n + 1));
    else if (n % 2 == 0) return pow(x * x, n / 2);
    else return x * pow(x * x, n / 2);
}

 

posted @ 2019-05-27 14:58  、、、、、、、  阅读(726)  评论(0编辑  收藏  举报