• int 整数相乘溢出的问题


    一、问题描述

    最近,开发团队的小伙伴儿,在做一个 int 整数相乘的逻辑的时候,出现了一个意想不到的结果,如下:

    long result = 25 * 24 * 60 * 60 * 1000; // 期望正确的结果是:2160000000
    System.out.println("result : " + result); // 实际得出的结果是:-2134967296
    
    • 1
    • 2

    我们期望的正确结果应该是 2160000000,怎么变成 -2134967296 了呢?!

    二、出现的原因

    其实问题出现的原因并不复杂,就是因为 int 整数在相乘的过程当中溢出了。

    新的问题出现了,咋就溢出了呢?

    我们知道 int 的取值范围是 -2147483648 ~ 2147483647,而期望的正确结果 2160000000 恰恰超出了 int 的最大值 2147483647,所以就溢出了。

    三、错误姿势

    那如何解决这个问题呢?

    我第一个想法就是在最后一位添加 L(或小写 l),如下:

    long result = 25 * 24 * 60 * 60 * 1000L; // 期望正确的结果是:2160000000
    System.out.println("result : " + result); // 实际得出的结果是:2160000000
    
    • 1
    • 2

    如此说来,那是不是无论任何情况只要在最后一位添加 L(或小写 l),就能解决溢出问题了呢?

    让我再来看另外一个例子,如下:

    long result = 25 * 24 * 60 * 60 * 1000 * 10L; // 期望正确的结果是:21600000000
    System.out.println("result : " + result); // 实际得出的结果是:-21349672960
    
    • 1
    • 2

    呃,这是咋回事儿呢?请看下图:

    在这里插入图片描述

    原来,在 25 * 24 * 60 * 60 * 1000 的时候就已经溢出了,后边的 * 10L 是基于错误的结果(溢出的结果)再计算的,所以最终结果也就错了。

    四、正确姿势

    那解决这个问题的正确姿势到底是怎样的呢?(PS:终于到重点了😓),这里我提供 2 个思路,如下:

    1、乘法运算的第一个值后边加上 L(或小写 l),如下:

    long result = 25L * 24 * 60 * 60 * 1000 * 10; // 期望正确的结果是:21600000000
    System.out.println("result : " + result); // 实际得出的结果是:21600000000
    
    • 1
    • 2

    2、采用 BigDecimal 进行运算,如下:

    long result = new BigDecimal(25)
               .multiply(new BigDecimal(24))
               .multiply(new BigDecimal(60))
               .multiply(new BigDecimal(60))
               .multiply(new BigDecimal(1000))
               .multiply(new BigDecimal(100))
               .longValue(); // 期望正确的结果是:21600000000
    System.out.println("result : " + result); // 实际得出的结果是:21600000000
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
  • 相关阅读:
    微信小程序毕业设计题目计算机维修服务+后台管理系统|前后分离VUE.js
    SpringMVC(三)获取请求参数
    http2 wireshark未解码消息字段过滤
    JAVA外卖订餐系统毕业设计 开题报告
    业界唯一!极智嘉依托新技术研发与应用斩获学技术进步奖一等奖
    伙伴计划|“团团活力圈”--巧编中国结 传承中国梦
    Pytorch学习:torch.randn()
    Git操作复习笔记
    2022年上半年系统分析师上午真题及答案解析
    小程序使用echarts(超详细教程)
  • 原文地址:https://blog.csdn.net/yangchao1125/article/details/125482164