码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • 一篇文章讲明白double、float丢失精度的问题


    1.背景

    1.1+0.1 = 1.2000000000000002

    发现上面计算的值竟然和数学计算不一致

    2. 问题

    计算机是通过二进制计算的,如果我们在二进制的视角来看待上面问题,就很容易发现问题了。
    例如:把「0.1」转成二进制的表示,然后还原成十进制,就能看出问题。

    3. 0.1转二进制

    小数转二进制,是通过除法进行的

    0.1 = 1 ÷ 10

    很简单,二进制就是要算

    1 ÷ 1010

    最终0.1转二进制是:0.0001100110011001100110011001100110011001100110011001101

    在这里插入图片描述

    4.转换成对应精度数值

    float的精度为7~8位有效数字,7位肯定能保证,8位的值也存在。
    double的精度为16~17位有效数字
    所以
    二进制展示

    1.1+0.1 = 1.0011001100110011001100110011001100110011001100110100

    十进制展示

    1.1+0.1 = 1.2000000000000002

    5.解决方案

    针对浮点数丢失精度的问题,我们可以通过BigDecimal来解决
    new BigDecimal(double val)
    该方法是不可预测的,以0.1为例,你以为你传了一个double类型的0.1,最后会返回一个值为0.1的BigDecimal吗?不会的,原因在于,0.1无法用有限长度的二进制数表示,无法精确地表示为双精度数,最后的结果会是0.100000xxx。
    new BigDecimal(String val)
    该方法是完全可预测的,也就是说你传入一个字符串"0.1",他就会给你返回一个值完全为0,1的BigDecimal,官方也表示,能用这个构造函数就用这个构造函数叭。
    BigDecimal.valueOf(double val)
    第二种构造方式已经足够优秀,可你还是想传入一个double值,怎么办呢?官方其实提供给你思路并且实现了它,可以使用Double.toString(double val)先将double值转为String,再调用第二种构造方式,你可以直接使用静态方法:valueOf(double val)。

        总结:将double转为BigDecimal的时候,需要先把double转换为字符串,然后再作为BigDecimal(String val)构造函数的参数,这样才能避免出现精度问题。
    
    • 1
  • 相关阅读:
    多 Activity 多 Page 的 UI 架构
    Git报错:git@github.com: Permission denied (publickey)
    【Transformers】第 6 章:用于标记分类的微调语言模型
    【C++高阶】3.1 string容器
    【Linux系统化学习】进程优先级 | 进程饥饿 | 进程切换
    【软考 系统架构设计师】操作系统④ 文件管理
    Windows已经安装了QT 6.3.0,如何再安装一个QT 5.12
    MySQL 数据库查询缓存
    基于Python实现的蚁群算法
    PHP获取访问浏览器的唯一标识useragent,判断是不是oppo内置浏览器
  • 原文地址:https://blog.csdn.net/constant_rain/article/details/133914869
  • 最新文章
  • 沪漂五周年了:我越来越迷茫了
    Agentic Skill Routing 实战:别再把所有 Skill 塞进 AI Agent 上下文
    MySQL-Seconds_behind_master的精度误差
    [MAF预定义ChatClient中间件-03]CachingChatClient——利用缓存省钱省时间
    AI的至暗历史:从万众期待到被政府撤资,AI的两次死亡徘徊
    Agent OS :五种驯服不确定性的范式
    PortSwigger SQL注入LAB11
    数据库即时编译JIT
    [Begin]AI Learn Data Day 0
    深度学习进阶(二十七)现代 LLM 的核心架构设计其二:SwiGLU
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
小工具 小游戏
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1

京公网安备 11010502049817号