• int 整数相乘溢出的问题


    一、问题描述

    最近,开发团队的小伙伴儿,在做一个 int 整数相乘的逻辑的时候,出现了一个意想不到的结果,如下:

    long result = 25 * 24 * 60 * 60 * 1000; // 期望正确的结果是:2160000000
    System.out.println("result : " + result); // 实际得出的结果是:-2134967296
    
    • 1
    • 2

    我们期望的正确结果应该是 2160000000,怎么变成 -2134967296 了呢?!

    二、出现的原因

    其实问题出现的原因并不复杂,就是因为 int 整数在相乘的过程当中溢出了。

    新的问题出现了,咋就溢出了呢?

    我们知道 int 的取值范围是 -2147483648 ~ 2147483647,而期望的正确结果 2160000000 恰恰超出了 int 的最大值 2147483647,所以就溢出了。

    三、错误姿势

    那如何解决这个问题呢?

    我第一个想法就是在最后一位添加 L(或小写 l),如下:

    long result = 25 * 24 * 60 * 60 * 1000L; // 期望正确的结果是:2160000000
    System.out.println("result : " + result); // 实际得出的结果是:2160000000
    
    • 1
    • 2

    如此说来,那是不是无论任何情况只要在最后一位添加 L(或小写 l),就能解决溢出问题了呢?

    让我再来看另外一个例子,如下:

    long result = 25 * 24 * 60 * 60 * 1000 * 10L; // 期望正确的结果是:21600000000
    System.out.println("result : " + result); // 实际得出的结果是:-21349672960
    
    • 1
    • 2

    呃,这是咋回事儿呢?请看下图:

    在这里插入图片描述

    原来,在 25 * 24 * 60 * 60 * 1000 的时候就已经溢出了,后边的 * 10L 是基于错误的结果(溢出的结果)再计算的,所以最终结果也就错了。

    四、正确姿势

    那解决这个问题的正确姿势到底是怎样的呢?(PS:终于到重点了😓),这里我提供 2 个思路,如下:

    1、乘法运算的第一个值后边加上 L(或小写 l),如下:

    long result = 25L * 24 * 60 * 60 * 1000 * 10; // 期望正确的结果是:21600000000
    System.out.println("result : " + result); // 实际得出的结果是:21600000000
    
    • 1
    • 2

    2、采用 BigDecimal 进行运算,如下:

    long result = new BigDecimal(25)
               .multiply(new BigDecimal(24))
               .multiply(new BigDecimal(60))
               .multiply(new BigDecimal(60))
               .multiply(new BigDecimal(1000))
               .multiply(new BigDecimal(100))
               .longValue(); // 期望正确的结果是:21600000000
    System.out.println("result : " + result); // 实际得出的结果是:21600000000
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
  • 相关阅读:
    QT信号和槽的关联实现子窗口传递值给主窗口
    C++ 三大特性之多态(二) 多态的实现原理
    Linux——ip协议
    常用 Git 命令清单
    MySQL的explain详解
    Java SE 14 新增特性
    Python数据结构——数组
    JAVA中的String类中的一些常用方法
    JAVA学习-java基础讲义02
    普通人下场全球贸易,新一轮结构性机会浮出水面
  • 原文地址:https://blog.csdn.net/yangchao1125/article/details/125482164