Skip to content

1.js中 0.1+0.2为什么不等于0.3? #1

@shiwanjun1995

Description

@shiwanjun1995
  1. 计算机中的数字都是以二进制形式存储的,在呈现结果的时候才转换成十进制。而JS中的Number类型数字是用IEEE(电气电子工程师学会)754 双精度标准来存储的,它由64位组成,这64位由3部分组成,(S:符号位,Exponent:指数域,Fraction:尾数域)。双精度数值(浮点数值)的最高精度是17位小数。具体结构如下图:

  2. 十进制小数转化为二进制小数:用2乘十进制小数,可以得到积,将积的整数部分取出,再用2乘余下的小数部分,又得到一个积,再将积的整数部分取出......如此进行,直到积中的小数部分为0,此时0或1就是二进制的最后一位。或者达到所要求的精度为止。
    如:
    // 0.1 转化为二进制
    0.0 0011 0011 0011 0011...(0011无限循环)
    // 0.2 转化为二进制
    0.0011 0011 0011 0011 0011...(0011无限循环)
    由于尾数只有52位,所以对于0.1和0.2转换后的二进制如下:(s) * (m) * (2^e)
    e = -4; m =1.1001100110011001100110011001100110011001100110011010 (52位)
    e = -3; m =1.1001100110011001100110011001100110011001100110011010 (52位)
    两者相加得到:
    = 0.010011001100110011001100110011001100110011001100110100
    = 0.30000000000000004(十进制)
    3.由于计算机的存储空间有限,会舍弃部分数值,也就会存在舍入误差。
    总结:因为计算机不能精确地表示0.1、0.2这样的浮点数,计算时使用的是带有舍入误差的数,但是并不是所有的浮点数在计算机内部都存在舍入误差,比如可以被表示成 x/2^n 的数,2/2^1=1(0.5+0.5=1)。

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions