码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • 由 BigDecimal 舍入算法引发的血案:ROUND_HALF_UP 与 ROUND_UP


    背景

            项目里最近新增了一个 Excel 导入功能,要求:保存 Excel 展示出来的数据。

    原格式如下:

            你以为所见即所得吗?不不不,我们看到的数据实际上是 Excel 做了显示隐藏的功能,程序读出来的确实原始数据,比如【76.3%】这个数据,实际长这样【0.763490452069129】。

    实际格式如下:

            为了实现业务的需求,同时保证字符串的处理精度,我们在业务层用 BigDecimal 函数对 EasyExcel 读到的数据做了一层预处理。

    预处理代码如下:

    1. private String dataFormat_2(String num) {
    2. return new BigDecimal(num).setScale(3, BigDecimal.ROUND_UP) + "";
    3. }

    问题

            从 Excel 的原始数据可以看出,业务方需要我们的处理格式为:四舍五入,保留3位小数。但是,使用上述手段的实际处理却没有达到预期,因为个别数据与与其不符。比如:数据【0.763490452069129】按要求应为【0.763】,实际转换结果为【0.764】。

            后来仔细查询了 BigDecimal 的官方文档,明白是用错了方法导致的,希望小伙伴们不要犯同样的错误,真正的四舍五入应该用【ROUND_HALF_UP】:

    1. private String dataFormat_1(String num) {
    2. return new BigDecimal(num).setScale(3, BigDecimal.ROUND_HALF_UP) + "";
    3. }

    两种方法的导入结果做了对比:


    总结

            BigDecimal 的舍位运算 setScale(scale, roundingMode)方法中:scale表示精确位数,roundingMode表示舍入模式。其中,【舍入模式】常见的模式有四种:

    1. ROUND_UP:进位制,不管保留数字后面是大是小(0除外)都会进位;
    2. ROUND_DOWN:保留设置数字,后面所有直接去除;
    3. ROUND_HALF_UP:根据保留数字后一位进行四舍五入( >=5 进位);
    4. ROUND_HALF_DOWN:根据保留数字后一位进行四舍五入(>5进位)。
    1. // 舍位运算
    2. @Test
    3. public void testCarry() {
    4. BigDecimal bigNum = new BigDecimal("2.35");
    5. //进位处理,2.31变成2.4
    6. System.out.println("ROUND_UP:"+bigNum.setScale(1,BigDecimal.ROUND_UP));
    7. //直接删除多余的小数位,如2.35会变成2.3
    8. System.out.println("ROUND_DOWN:"+bigNum.setScale(1,BigDecimal.ROUND_DOWN));
    9. //四舍五入,2.35变成2.4
    10. System.out.println("ROUND_HALF_UP:"+bigNum.setScale(1,BigDecimal.ROUND_HALF_UP));
    11. //五舍六入,2.35变成2.3
    12. System.out.println("ROUND_HALF_DOWN:"+bigNum.setScale(1,BigDecimal.ROUND_HALF_DOWN));
    13. //不建议使用的.setScale(1)方法
    14. System.out.println("setScale:"+bigNum.setScale(2));
    15. }

    BigDecimal的详细用法,见博客:

    Java中BigDecimal类的使用方法详解,常用最全系列!_Java Punk的博客-CSDN博客Java在java.math包中提供的API类BigDecimal,用来对超过16位有效位的数进行精确的运算。对于Double类型的运算,通常使用此类处理,来有效避免精度问题。我们从以下五个功能点,来细说使用方法和注意事项:正文:基本运算注意事项:BigDecimal的加减乘除操作,其实最终返回的都是一个新的BigDecimal对象,因为BigDecimal都是不可变的的(BigInte...https://blog.csdn.net/weixin_44259720/article/details/87001849希望可以帮到你 ~ ~ ~


  • 相关阅读:
    linux的审计功能(audit)
    《HelloGitHub》第 98 期
    Java EE——常见锁策略和CAS及锁的其他概念
    面试:关于static静态变量的问题
    代码随想录刷题总结
    Docker:数据卷(Data Volumes)&dockerfile
    MySQL复合查询和内外连接
    Android源码——Rect源码解析
    Spring ioc aop
    centos7安装chrome/Firefox浏览器
  • 原文地址:https://blog.csdn.net/weixin_44259720/article/details/126480908
  • 最新文章
  • 【JVM】编译执行与解释执行的区别是什么?JVM 使用哪种方式?
    用 Hashids 优雅解决 C 端自增 ID 暴露问题
    V8引擎 精品漫游指南--Ignition篇(上) 指令 栈帧 槽位 调用约定 内存布局 基础内容
    LLVM Pass快速入门(四):代码插桩
    milkup:桌面端 markdown AI续写和即时渲染
    基于项目工程构建SBOM(软件物料清单)的研究
    鸿蒙应用开发UI基础第二节:鸿蒙应用程序框架核心解析与实操
    .NET 中如何快速实现 List 集合去重?
    扣子Coze实战:从0到1打造抖音+小红书热点监控智能体
    浅谈数据访问层
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
小工具 小游戏
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1

京公网安备 11010502049817号