在MATLAB中双精度值用8bit共64位来表示
我们知道e的取值范围是0到2047(等号可以取到)
通过这个双精度浮点数,MATLAB定义了其能表示的最大的正数——Inf,那么这个数的数值大小究竟是多少呢?
通过上图我们可以知道,当e的二进制为全为1时,并且f的二进制为全为0时,这个数的值就是Inf,具体大小是: 2 1024 2^{1024} 21024(或者比这个数大的都是Inf),注意MATLAB是不能表示比这个还要大的数的。
在这个基础上,MATLAB定义了一个能表示的最大的数realmax=1.7977e+308,就是e取比2047小一点的2046,f取0的值(不信可以自己计算一下)。
那么realmin的取值就是e取1,f取0的情况(为什么e不取0,因为跟上面一样,边界值有特殊用途了),realmin=2.2251e-308。
还有,当e的二进制为全为1,且f不等于0时,这时候MATLAB又定义了一个新的元素——NaN,也就是not a number,常用来表示0/0, ∞ / ∞ \infty/\infty ∞/∞, ∞ − ∞ \infty-\infty ∞−∞等未定式。
最后,MATLAB中有一个数是eps= 2.2204e-16,它的相当于微积分中的 ϵ \epsilon ϵ,大小定义为 ( − 1 ) 0 × 2 0 × 1.0 (-1)^0\times2^0\times1.0 (−1)0×20×1.0和 ( − 1 ) 0 × 2 0 × ( 1 + 2 − 52 ) (-1)^0\times2^0\times(1+2^{-52}) (−1)0×20×(1+2−52)的差值—— e p s = 2 − 52 = 2.2204 e − 16 eps=2^{-52}=2.2204e-16 eps=2−52=2.2204e−16,也就是f的第52位取1,前面左右的位都取0。
为什么要知道以上这些数呢?主要原因是我们要知道计算机的计算总是有误差的(数据存储位数有限),虽然这些误差可以计划忽略不计,但是在某些特殊情况下,需要知道误差的大小。