-
Notifications
You must be signed in to change notification settings - Fork 0
Open
Description
- 计算机中的数字都是以二进制形式存储的,在呈现结果的时候才转换成十进制。而JS中的Number类型数字是用IEEE(电气电子工程师学会)754 双精度标准来存储的,它由64位组成,这64位由3部分组成,(S:符号位,Exponent:指数域,Fraction:尾数域)。双精度数值(浮点数值)的最高精度是17位小数。具体结构如下图:
- 十进制小数转化为二进制小数:用2乘十进制小数,可以得到积,将积的整数部分取出,再用2乘余下的小数部分,又得到一个积,再将积的整数部分取出......如此进行,直到积中的小数部分为0,此时0或1就是二进制的最后一位。或者达到所要求的精度为止。
如:
// 0.1 转化为二进制
0.0 0011 0011 0011 0011...(0011无限循环)
// 0.2 转化为二进制
0.0011 0011 0011 0011 0011...(0011无限循环)
由于尾数只有52位,所以对于0.1和0.2转换后的二进制如下:(s) * (m) * (2^e)
e = -4; m =1.1001100110011001100110011001100110011001100110011010 (52位)
e = -3; m =1.1001100110011001100110011001100110011001100110011010 (52位)
两者相加得到:
= 0.010011001100110011001100110011001100110011001100110100
= 0.30000000000000004(十进制)
3.由于计算机的存储空间有限,会舍弃部分数值,也就会存在舍入误差。
总结:因为计算机不能精确地表示0.1、0.2这样的浮点数,计算时使用的是带有舍入误差的数,但是并不是所有的浮点数在计算机内部都存在舍入误差,比如可以被表示成 x/2^n 的数,2/2^1=1(0.5+0.5=1)。
Metadata
Metadata
Assignees
Labels
No labels

