• 浮点型数字


    1. 浮点型的定义

    浮点型(floating-point)是一种表示实数的计算机数据类型,它可以表示有限小数、无限小数和近似值。浮点型的表示方法基于科学计数法,即一个实数可以表示为尾数(有效数字)和指数的乘积。

    在科学计数法中,一个实数表示为:±尾数 × 基数^指数。在计算机中,浮点型通常遵循IEEE 754标准,该标准定义了浮点数的存储格式和运算规则。在IEEE 754标准中,基数为2,实数的表示包括符号位、指数位和尾数位。

    浮点型通常有两种精度:单精度浮点型(float)和双精度浮点型(double)。

    浮点型在科学计算、图形处理、工程模拟等领域中广泛应用,因为它可以表示非常大或非常小的数值,同时具有较高的计算精度。然而,由于浮点数的表示和运算特点,可能出现舍入误差、累积误差等问题,在需要高精度计算时需要特别注意。

    1.1. 单精度浮点型

    通常使用32位(4字节)来表示一个实数。其中,1位表示符号位(正数或负数),8位表示指数位,23位表示尾数位。单精度浮点型的有效数字大约为6~7位十进制数字。

    1.2. 双精度浮点型

    通常使用64位(8字节)来表示一个实数。其中,1位表示符号位(正数或负数),11位表示指数位,52位表示尾数位。双精度浮点型的有效数字大约为15~16位十进制数字。

    2. 浮点型的精度

    单精度浮点型的有效数字大约为6~9位十进制数字,双精度浮点型的有效数字大约为15~17位十进制数字。到底什么情况下是几位有效数字,这里做一下简单的分析,欢迎批评指正。

    2.1. 单精度浮点型

    23位表示尾数位,2的23次方是8388608,所以当科学记数法中的尾数绝对值小于8.388607时拥有7位有效数字,大于它时就只有6位有效数字。

    2.2. 双精度浮点型

    52位表示尾数位,2的52次方是4503599627370496,所以当科学记数法中的尾数绝对值小于4.503599627370495时拥有16位有效数字,大于它时就只有15位有效数字。

    参考文献

    Go Float Data Types

  • 相关阅读:
    集成学习方法(随机森林和AdaBoost)
    java Excel导出工具类
    基于单片机的智能病床呼叫系统设计与仿真
    python日期工具datedays
    一种通过nacos动态配置实现多租户的log4j2日志物理隔离的设计
    数据结构初阶 —— 二叉树链式结构
    shell 中单引号,双引号,反引号的区别
    Transformer
    d中声明式gui
    网络精通-VLAN的高级配置之基于IP地址划分VLAN
  • 原文地址:https://blog.csdn.net/xhtchina/article/details/133418155