码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • 浮点型数字


    1. 浮点型的定义

    浮点型(floating-point)是一种表示实数的计算机数据类型,它可以表示有限小数、无限小数和近似值。浮点型的表示方法基于科学计数法,即一个实数可以表示为尾数(有效数字)和指数的乘积。

    在科学计数法中,一个实数表示为:±尾数 × 基数^指数。在计算机中,浮点型通常遵循IEEE 754标准,该标准定义了浮点数的存储格式和运算规则。在IEEE 754标准中,基数为2,实数的表示包括符号位、指数位和尾数位。

    浮点型通常有两种精度:单精度浮点型(float)和双精度浮点型(double)。

    浮点型在科学计算、图形处理、工程模拟等领域中广泛应用,因为它可以表示非常大或非常小的数值,同时具有较高的计算精度。然而,由于浮点数的表示和运算特点,可能出现舍入误差、累积误差等问题,在需要高精度计算时需要特别注意。

    1.1. 单精度浮点型

    通常使用32位(4字节)来表示一个实数。其中,1位表示符号位(正数或负数),8位表示指数位,23位表示尾数位。单精度浮点型的有效数字大约为6~7位十进制数字。

    1.2. 双精度浮点型

    通常使用64位(8字节)来表示一个实数。其中,1位表示符号位(正数或负数),11位表示指数位,52位表示尾数位。双精度浮点型的有效数字大约为15~16位十进制数字。

    2. 浮点型的精度

    单精度浮点型的有效数字大约为6~9位十进制数字,双精度浮点型的有效数字大约为15~17位十进制数字。到底什么情况下是几位有效数字,这里做一下简单的分析,欢迎批评指正。

    2.1. 单精度浮点型

    23位表示尾数位,2的23次方是8388608,所以当科学记数法中的尾数绝对值小于8.388607时拥有7位有效数字,大于它时就只有6位有效数字。

    2.2. 双精度浮点型

    52位表示尾数位,2的52次方是4503599627370496,所以当科学记数法中的尾数绝对值小于4.503599627370495时拥有16位有效数字,大于它时就只有15位有效数字。

    参考文献

    Go Float Data Types

  • 相关阅读:
    3.18 最大单词长度——力扣
    408王道计算机组成原理强化——输入输出系统大题(I/O)
    五、JAVA基本数据类型
    高德地图通过画面中的一个覆盖物设置图中心点和zoom
    SAP 自定义表数据导入程序
    Linux下线程同步(带你了解什么是互斥锁、死锁、读写锁、条件变量、信号量等)
    个人以及企业用户如何选择合适的阿里云服务器?
    【必坑指南】Windows 下基于 conda 安装 superset
    Docker 容器技术 (上) 环境安装和部署、容器镜像、使用IDEA构建Springboot程序镜像、远程仓库、容器网络管理
    微型神经网络库MicroGrad-基于标量自动微分的类pytorch接口的深度学习框架
  • 原文地址:https://blog.csdn.net/xhtchina/article/details/133418155
  • 最新文章
  • 【JVM】编译执行与解释执行的区别是什么?JVM 使用哪种方式?
    用 Hashids 优雅解决 C 端自增 ID 暴露问题
    V8引擎 精品漫游指南--Ignition篇(上) 指令 栈帧 槽位 调用约定 内存布局 基础内容
    LLVM Pass快速入门(四):代码插桩
    milkup:桌面端 markdown AI续写和即时渲染
    基于项目工程构建SBOM(软件物料清单)的研究
    鸿蒙应用开发UI基础第二节:鸿蒙应用程序框架核心解析与实操
    .NET 中如何快速实现 List 集合去重?
    扣子Coze实战:从0到1打造抖音+小红书热点监控智能体
    浅谈数据访问层
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
小工具 小游戏
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1

京公网安备 11010502049817号