• 浮点型数字


    1. 浮点型的定义

    浮点型(floating-point)是一种表示实数的计算机数据类型,它可以表示有限小数、无限小数和近似值。浮点型的表示方法基于科学计数法,即一个实数可以表示为尾数(有效数字)和指数的乘积。

    在科学计数法中,一个实数表示为:±尾数 × 基数^指数。在计算机中,浮点型通常遵循IEEE 754标准,该标准定义了浮点数的存储格式和运算规则。在IEEE 754标准中,基数为2,实数的表示包括符号位、指数位和尾数位。

    浮点型通常有两种精度:单精度浮点型(float)和双精度浮点型(double)。

    浮点型在科学计算、图形处理、工程模拟等领域中广泛应用,因为它可以表示非常大或非常小的数值,同时具有较高的计算精度。然而,由于浮点数的表示和运算特点,可能出现舍入误差、累积误差等问题,在需要高精度计算时需要特别注意。

    1.1. 单精度浮点型

    通常使用32位(4字节)来表示一个实数。其中,1位表示符号位(正数或负数),8位表示指数位,23位表示尾数位。单精度浮点型的有效数字大约为6~7位十进制数字。

    1.2. 双精度浮点型

    通常使用64位(8字节)来表示一个实数。其中,1位表示符号位(正数或负数),11位表示指数位,52位表示尾数位。双精度浮点型的有效数字大约为15~16位十进制数字。

    2. 浮点型的精度

    单精度浮点型的有效数字大约为6~9位十进制数字,双精度浮点型的有效数字大约为15~17位十进制数字。到底什么情况下是几位有效数字,这里做一下简单的分析,欢迎批评指正。

    2.1. 单精度浮点型

    23位表示尾数位,2的23次方是8388608,所以当科学记数法中的尾数绝对值小于8.388607时拥有7位有效数字,大于它时就只有6位有效数字。

    2.2. 双精度浮点型

    52位表示尾数位,2的52次方是4503599627370496,所以当科学记数法中的尾数绝对值小于4.503599627370495时拥有16位有效数字,大于它时就只有15位有效数字。

    参考文献

    Go Float Data Types

  • 相关阅读:
    iSCSI:提供基于 iSCSI 的网络存储(服务端以及启动器配置)
    SpringCloudAliBaba篇(二)之nacos集群部署
    基于改进粒子群算法的微电网多目标优化调度(Matlab代码实现)
    知识图谱数据库基本知识
    【UDS 14229-1诊断服务内容详细解读】
    AI文本创作在百度App发文的实践
    学习笔记-java代码审计-文件操作
    【App自动化测试】(七)移动端自动化中常见控件交互方法
    新电脑验机步骤(2)
    Docker基础知识总结
  • 原文地址:https://blog.csdn.net/xhtchina/article/details/133418155