• printf 是怎么舍入的


    前言

    先说结论,IEEE 754 浮点标准默认采用的是向偶数舍入。

    关于浮点数舍入的详细介绍请见:浮点数舍入规则

    向偶数舍入

    1. 首先要找一个中间值,保留 0 位小数,中间值为: 0.50 0.50 0.50;保留一位小数,中间值为: 0.050 0.050 0.050;以此类推
    2. 将保留位数以后的值与该中间值比较(比如面的:0.40、0.60、0.50)
      • 大于中间值,采取向上舍入(进位)
      • 小于中间值,采取向下舍入(舍去)
      • 等于中间值,向数轴上最近的偶数舍入

    先看下 IEEE 规定的向偶数舍入的舍入结果(保留 0 位小数):

    方式1.401.601.502.50-1.50
    向偶数舍入(default)1222-2

    问题

    有如下 C++ 代码:

    float num1 = 1.35;
    float num2 = 1.45;
    printf("%.1f %.1f\n", num1, num2);
    
    • 1
    • 2
    • 3

    编译环境:Ubuntu 20.04 g++10.5.0

    保留 1 位小数,中间值是 0.05,按照向偶数舍入,它们的输出应该都是 1.4:

    # 理论上输出应是
    1.4 1.4
    # 实际输出为
    1.4 1.5
    
    • 1
    • 2
    • 3
    • 4

    这不就是普通的四舍五入嘛,干嘛说是向偶数舍入。

    要解释这个现象,还需要浮点数在计算机中存储方式这个知识点,详细内容请见:浮点数存储规则

    可以使用这个网站将数字转换为实际存储的值:数字工具

    因为我们使用的内存空间有限,有些小数是无法精确表示的,1.35 和 1.45 在计算机中实际存储的是:

    DecimalDecimal (exact)BinaryHexadecimal
    1.351.350000023841857910156250 01111111 010110011001100110011013FACCCCD
    1.451.45000004768371582031250 01111111 011100110011001100110103FB9999A

    1.35 和 1.45 实际存储的值,在保留 1 位小数时都是大于中间值的,所以都发生了进位。

    使用可以精确存储的值再尝试下:

    float num1 = 0.75;
    float num2 = 1.25;
    printf("%.1f %.1f\n", num1, num2);
    
    • 1
    • 2
    • 3

    编译环境:Ubuntu 20.04 g++10.5.0

    输出为:

    0.8 1.2
    
    • 1

    正是我们所期望的值。

    在 Ubuntu 20.04 clang++ 10.0.0 下也得到了相同的值;但在 Win11 Visual Studio 2022 (v143) 得到的值是 0.8 1.3,于是在 Win11 用 Dev C++(g++ 4.9.2)测试得到的是 0.8 1.2。可以排除操作系统的原因,多半是 MSVC 采用了其他的舍入方式,没用向偶数舍入。

  • 相关阅读:
    机器学习总结
    基于springboot、logback的日志脱敏组件
    HyperLynx(九)HDMI仿真实例
    Unity之创建第一个2D游戏项目
    RAID卡管理工具使用
    【跨境电商平台】Magento VS Shopify,选谁进行独立站建站?
    机器学习中的集成学习算法和K-近邻算法及其优缺点
    java常见问题排查
    鸿蒙3.0将删除谷歌代码,只是为让国产系统更纯粹
    内核态与中断相关理论
  • 原文地址:https://blog.csdn.net/qq_40080842/article/details/133693483