abs(INT_MAX-(-1))
写一个程序,结果总是不对,check逻辑好几遍也没发现错误,无奈之下debug。发现一个有趣的现象abs(INT_MAX-(-1))返回值是-2147483648。于是看了下abs函数的代码实现。
1 int __cdecl abs ( 2 int number 3 ) 4 { 5 return( number>=0 ? number : -number ); 6 }
这个问题设计无符号数、有符号数的范围,同时跟溢出之后的结果有关。abs函数的参数是int,是有符号的, INT_MAX-(-1)大于int的表示范围,其无符号值为2147483648,然后该无符号值转化为有符号int为-2147483648。对于语句number>=0? number:-number 我们得到-(-2147483648),即2147483648。而abs函数的返回值类型是int,是有符号的,2147483648转变为有符号int值为-2147483648。