欢迎光临我的博客查看最新文章: https://river106.cn
最近在做单元测试时用到了Java(JDK8)的Math.abs方法,取给定整数的绝对值,再做其他处理,没想到运行测试用例时出现了异常,原因就是Math.abs返回了负数,所以很奇葩,Math.abs有可能小于0。
先看下JDK中Math.abs方法的源码:
public static int abs(int a) {
return (a < 0) ? -a : a;
}
这个比较简单,问题是int类型的范围是-2^31 ~ 2^31-1, 即-2147483648 ~ 2147483647;
按照abs的逻辑,如果对最小值求绝对值,最小值前面加个负号就变成了 2^31,
而int所能表示的最大值是 (2^31) -1,这比最大值还大了个 1,导致向上溢出,所以此时得到的结果还是最小值。
java中的数字实现是有符号位的,用高位来表示服符号位, 高位为0表示正数,为1表示负数。
System.out.println(Integer.MIN_VALUE);
System.out.println(Math.abs(Integer.MIN_VALUE));
上述代码运行结果:
-2147483648
-2147483648
所以,使用到Math.abs时稍有不慎可能会遇到很奇怪的bug, 如果确实要用,需要对返回结果进行判断,是否小于0,不过这样很怪,在JDK15中增加了方法 Math.absExact, 这里如果返回负数的话就会抛出异常。