码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • 【软考学习3】数据表示——浮点数计算 + 单精度浮点数IEEE754计算


    浮点数计算在软考中的考查形式一般为选择题,要求选择正确的或者错误的是什么,所以需要学习浮点数的基本运算流程。
    另外在本科《计算机组成原理》中还学过 IEEE754单精度 浮点数运算,所以一块复习。

    在这里插入图片描述


    零、科学计数法

    科学计数法是在数学中对数值的一种表示方式,通常的表示形式为 a×10^b(或 aEb),其中 a 大于等于 1 小于 10,指数固定为 10。

    因为在某些场景下,有些较大或较小的数值表示不太方便,如 ACM 中常用的取余数 1000000007,ACMer 们通常看见这么多零,很容易数错,所以在题目中一般表示为 1E9。
    对于很小的数也是一样,比如 0.00000198,我们通常表示为 1.98 x 10^-6,而不是直接写这么多小数点的数值。


    一、对阶

    在对使用了科学计数法的数值进行加法运算时,需要先对阶。

    比如一个数 A 是 1023000000,我们将它表示为 1.023 x 10^9。

    比如一个数 B 是105600000,我们将它表示为 1.056 x 10^8。

    我们不能直接对 A 和 B 进行相加,因为它们的 阶级(专用名词为基数)不一样,A 是 9 次方,B 是 8 次方。

    所以我们要进行对阶操作,而且是小阶向大阶对齐(为了避免计算后的结果格式化)。


    二、尾数计算

    在进行 A + B 的计算中,因为 B 的阶乘(8)要小于 A 的阶乘(9),所以临时将 B 的数值改为 0.1056 x 10^9。

    接着再对尾数进行相加,即 1.023 + 0.1056 = 1.179。

    最后再套上阶乘,结果就是 1.179 x 10 ^9,计算完毕。


    三、IEEE754 单精度浮点数运算

    IEEE754 单精度浮点数运算可以解决浮点数进制转换的问题,具体流程如下图所示。

    在这里插入图片描述


    四、总结

    本文对浮点数计算流程和 IEEE754 进行了复习,主要是要了解浮点数对接和尾数相加的流程。

  • 相关阅读:
    Lec09 Interrupts | 中断
    【论文通读】CLIP改进工作综述
    Android7.1 新增开机广播过滤(只有特定apk可以接收开机广播)
    手写call、apply、bind方法及区别总结
    ARMv8/ARMv9视频课程-Trustzone/TEE/安全视频课程
    Windows上运行Redis
    基于JSP+Bootstrap+MySQL的“我与家乡”网页设计
    vue使用腾讯地图获取经纬度和逆解析获取详细地址
    java计算机毕业设计在线学习跟踪系统后台源码+数据库+系统+lw文档+mybatis+运行部署
    RC4Drop加密技术:原理、实践与安全性探究
  • 原文地址:https://blog.csdn.net/qq_41464123/article/details/126566127
  • 最新文章
  • 攻防演习之三天拿下官网站群
    数据安全治理学习——前期安全规划和安全管理体系建设
    企业安全 | 企业内一次钓鱼演练准备过程
    内网渗透测试 | Kerberos协议及其部分攻击手法
    0day的产生 | 不懂代码的"代码审计"
    安装scrcpy-client模块av模块异常,环境问题解决方案
    leetcode hot100【LeetCode 279. 完全平方数】java实现
    OpenWrt下安装Mosquitto
    AnatoMask论文汇总
    【AI日记】24.11.01 LangChain、openai api和github copilot
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1
正则表达式工具 cron表达式工具 密码生成工具

京公网安备 11010502049817号