码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • 企业级-精度计算


    作者:fyupeng
    技术专栏:☞ https://github.com/fyupeng
    项目地址:☞ https://github.com/fyupeng/distributed-blog-system-api


    留给读者

    一、介绍

    对于这种计算,怎么看待,是否一定得使用精度四舍五入计算?

    System.out.println(Double.sum(-14.88, 64.88));
    

    控制台打印:

    49.99999999999999
    
    Process finished with exit code 0
    

    二、代码

    由于以上使用的非Java标准库,现在使用标准库。

    BigDecimal num1 = new BigDecimal("-14.88");
    BigDecimal num2= new BigDecimal("64.88");
    BigDecimal sum = num1.add(num2);
    System.out.println(sum); // 保留10位小数,四舍五入
    System.out.println(sum.round(new MathContext(10, RoundingMode.HALF_UP))); // 保留10位小数,四舍五入
    // 或者,如果您知道结果应该是一个整数,并且想要得到一个整数结果:
    System.out.println(sum.setScale(0, RoundingMode.HALF_UP)); // 去掉小数部分,四舍五入到最接近的整数
    

    控制台打印:

    50.00
    50.00
    50
    

    可以看到,不管是原值计算后输出,还是减少精度,得到的结果小数位数能够得到高保真。

    三、总结

    高效、实践、务实,求真!

  • 相关阅读:
    鼓楼夜市管理wpf+sqlserver
    【基于 python 云计算的娱乐资讯软件 V1.0操作指导及说明书】
    3.2 构造方法
    一文教你理解Kafka offset
    随机森林评价变量重要性可以无条件信任吗?
    分布式互斥
    chapter 11 in C primer plus
    网络安全——Web目录扫描
    C++版本的OpenCV 5.x编译生成opencv-python==5.x(GPU版本)接口并进行调用
    10 特征向量与特征值
  • 原文地址:https://blog.csdn.net/F15217283411/article/details/140457059
  • 最新文章
  • 【JVM】编译执行与解释执行的区别是什么?JVM 使用哪种方式?
    用 Hashids 优雅解决 C 端自增 ID 暴露问题
    V8引擎 精品漫游指南--Ignition篇(上) 指令 栈帧 槽位 调用约定 内存布局 基础内容
    LLVM Pass快速入门(四):代码插桩
    milkup:桌面端 markdown AI续写和即时渲染
    基于项目工程构建SBOM(软件物料清单)的研究
    鸿蒙应用开发UI基础第二节:鸿蒙应用程序框架核心解析与实操
    .NET 中如何快速实现 List 集合去重?
    扣子Coze实战:从0到1打造抖音+小红书热点监控智能体
    浅谈数据访问层
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
小工具 小游戏
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1

京公网安备 11010502049817号