码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • 【软考学习3】数据表示——浮点数计算 + 单精度浮点数IEEE754计算


    浮点数计算在软考中的考查形式一般为选择题,要求选择正确的或者错误的是什么,所以需要学习浮点数的基本运算流程。
    另外在本科《计算机组成原理》中还学过 IEEE754单精度 浮点数运算,所以一块复习。

    在这里插入图片描述


    零、科学计数法

    科学计数法是在数学中对数值的一种表示方式,通常的表示形式为 a×10^b(或 aEb),其中 a 大于等于 1 小于 10,指数固定为 10。

    因为在某些场景下,有些较大或较小的数值表示不太方便,如 ACM 中常用的取余数 1000000007,ACMer 们通常看见这么多零,很容易数错,所以在题目中一般表示为 1E9。
    对于很小的数也是一样,比如 0.00000198,我们通常表示为 1.98 x 10^-6,而不是直接写这么多小数点的数值。


    一、对阶

    在对使用了科学计数法的数值进行加法运算时,需要先对阶。

    比如一个数 A 是 1023000000,我们将它表示为 1.023 x 10^9。

    比如一个数 B 是105600000,我们将它表示为 1.056 x 10^8。

    我们不能直接对 A 和 B 进行相加,因为它们的 阶级(专用名词为基数)不一样,A 是 9 次方,B 是 8 次方。

    所以我们要进行对阶操作,而且是小阶向大阶对齐(为了避免计算后的结果格式化)。


    二、尾数计算

    在进行 A + B 的计算中,因为 B 的阶乘(8)要小于 A 的阶乘(9),所以临时将 B 的数值改为 0.1056 x 10^9。

    接着再对尾数进行相加,即 1.023 + 0.1056 = 1.179。

    最后再套上阶乘,结果就是 1.179 x 10 ^9,计算完毕。


    三、IEEE754 单精度浮点数运算

    IEEE754 单精度浮点数运算可以解决浮点数进制转换的问题,具体流程如下图所示。

    在这里插入图片描述


    四、总结

    本文对浮点数计算流程和 IEEE754 进行了复习,主要是要了解浮点数对接和尾数相加的流程。

  • 相关阅读:
    技术与市场杂志技术市场杂志社技术与市场编辑部2022年第9期目录
    『现学现忘』Docker基础 — 24、Docker图形化管理工具Portainer
    美容院圣诞节促销活动方案
    22.原型模式
    Redis从入门到精通(二)- 入门篇
    基于CCE Kubernetes网络与持久化存储实战
    若依的环境的部署以及系统的运行
    SpringCloudAlibaba 综合项目实战工业级PaaS云平台第五课 购物车订单支付的分布式设计
    [附源码]计算机毕业设计springboot勤工俭学管理小程序
    为什么用公钥加密却不能用公钥解密?
  • 原文地址:https://blog.csdn.net/qq_41464123/article/details/126566127
  • 最新文章
  • 沪漂五周年了:我越来越迷茫了
    Agentic Skill Routing 实战:别再把所有 Skill 塞进 AI Agent 上下文
    MySQL-Seconds_behind_master的精度误差
    [MAF预定义ChatClient中间件-03]CachingChatClient——利用缓存省钱省时间
    AI的至暗历史:从万众期待到被政府撤资,AI的两次死亡徘徊
    Agent OS :五种驯服不确定性的范式
    PortSwigger SQL注入LAB11
    数据库即时编译JIT
    [Begin]AI Learn Data Day 0
    深度学习进阶(二十七)现代 LLM 的核心架构设计其二:SwiGLU
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
小工具 小游戏
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1

京公网安备 11010502049817号