码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • 关于MATLAB中双精度值的解释,以及Inf,NaN的值具体是多少,为什么是这个值


    在MATLAB中双精度值用8bit共64位来表示
    在这里插入图片描述
    我们知道e的取值范围是0到2047(等号可以取到)

    通过这个双精度浮点数,MATLAB定义了其能表示的最大的正数——Inf,那么这个数的数值大小究竟是多少呢?

    通过上图我们可以知道,当e的二进制为全为1时,并且f的二进制为全为0时,这个数的值就是Inf,具体大小是: 2 1024 2^{1024} 21024(或者比这个数大的都是Inf),注意MATLAB是不能表示比这个还要大的数的。

    在这个基础上,MATLAB定义了一个能表示的最大的数realmax=1.7977e+308,就是e取比2047小一点的2046,f取0的值(不信可以自己计算一下)。
    那么realmin的取值就是e取1,f取0的情况(为什么e不取0,因为跟上面一样,边界值有特殊用途了),realmin=2.2251e-308。

    还有,当e的二进制为全为1,且f不等于0时,这时候MATLAB又定义了一个新的元素——NaN,也就是not a number,常用来表示0/0, ∞ / ∞ \infty/\infty ∞/∞, ∞ − ∞ \infty-\infty ∞−∞等未定式。

    最后,MATLAB中有一个数是eps= 2.2204e-16,它的相当于微积分中的 ϵ \epsilon ϵ,大小定义为 ( − 1 ) 0 × 2 0 × 1.0 (-1)^0\times2^0\times1.0 (−1)0×20×1.0和 ( − 1 ) 0 × 2 0 × ( 1 + 2 − 52 ) (-1)^0\times2^0\times(1+2^{-52}) (−1)0×20×(1+2−52)的差值—— e p s = 2 − 52 = 2.2204 e − 16 eps=2^{-52}=2.2204e-16 eps=2−52=2.2204e−16,也就是f的第52位取1,前面左右的位都取0。

    为什么要知道以上这些数呢?主要原因是我们要知道计算机的计算总是有误差的(数据存储位数有限),虽然这些误差可以计划忽略不计,但是在某些特殊情况下,需要知道误差的大小。

  • 相关阅读:
    【网络】UDP协议
    文档管理软件将办公室的业务模式转变为无纸化远程业务模式,提高员工生产力和保留率
    Linux教程01:最基本的10条命令
    【Oculus Interaction SDK】(七)使用射线进行交互(物体 & UI)
    Matlab画圆且坐标轴图片等比例显示
    PID--位置型PID和增量式PID比较
    tensorrt C++推理
    mysql 查找表中重复数据 类型题目
    this.$nextTick()的使用场景
    YoloV8改进策略:新出炉的EMA注意力机制助力YoloV8更加强大
  • 原文地址:https://blog.csdn.net/weixin_42188287/article/details/127420764
  • 最新文章
  • 沪漂五周年了:我越来越迷茫了
    Agentic Skill Routing 实战:别再把所有 Skill 塞进 AI Agent 上下文
    MySQL-Seconds_behind_master的精度误差
    [MAF预定义ChatClient中间件-03]CachingChatClient——利用缓存省钱省时间
    AI的至暗历史:从万众期待到被政府撤资,AI的两次死亡徘徊
    Agent OS :五种驯服不确定性的范式
    PortSwigger SQL注入LAB11
    数据库即时编译JIT
    [Begin]AI Learn Data Day 0
    深度学习进阶(二十七)现代 LLM 的核心架构设计其二:SwiGLU
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
小工具 小游戏
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1

京公网安备 11010502049817号