一、开头
我们都知道0.1 + 0.2 !== 0.3
,而是0.30000000000000004
,那么是为什么?我们都知道计算机在内部实现中使用的是二进制,0.1也是不例外的,此时我们将0.1转换为二进制数据表示可以表示为:0.0001100110011001100...(1100无限循环)
,0.2转换为二进制数据可以表示为0.00110011001100...(1100循环)
,此时这两个数均为无限循环小数,那么该如何去存储呢?
二、如何存储二进制小数
不同的语言可能会有不同的存储标准,javascript
中所用到的整数和小数都使用Number
类型来保存的,它的实现遵循IEEE 754
标准,使用64位
固定长度来保存,也就是双精度浮点数
。双精度浮点数一共占64位
符号位占一位
指数为占11位
小数位占52位
所以小数部分加上前面的1
,最多保存53
位。剩余的也就舍去,遵循0舍1入。此时的二进制为:
0.00011001100110011001100110011001100110011001100110011010
同理我们得到0.2
的舍去结果为:
0.0011001100110011001100110011001100110011001100110011010
两者相加得:
0.00011001100110011001100110011001100110011001100110011010 +
0.0011001100110011001100110011001100110011001100110011010 =
0.0100110011001100110011001100110011001100110011001100111
0.0100110011001100110011001100110011001100110011001100111的结果就是0.30000000000000004
。
三、浮点数如何保存
上面我们提到浮点数保存分为三个部分,分别时:符号位1位
,指数为11位
,小数位52位
,并且小数按按照标准1.xxxxxx
。
下面我们看一个例子:
(78.375)10 = (1001110.011)2 = 1.001110011×2^6
这里的1.001110011×2^6
就是科学计数法。这里符号位为0,指数部分为:110
,001110011
为小数部分。所以最终的结果为:
0(sign) 00000000110(exponent) 00111001 10000000 00000000 00000000 00000000 00000000 0000
按照上述方法:我们可以知道0.1
的二进制和科学计数法为:
//二进制
0.00011001100110011001100110011001100110011001100110011001 10011...
//科学计数法
1.1001100110011001100110011001100110011001100110011001*2^-4
所以0.1
的符号位:0
,小数位为:1001100110011001100110011001100110011001100110011001
,指数位为:-4
,此时指数位的负数该如何表示。
四、指数部分为负数该如何保存
指数部分存在负数,根据标准可以将其转化为整数,我们使用11
位二进制数据表示,则可以表示的范围是0 - 2047
,此时IEEE
规定指数需要加上一个偏移量为1023
。1、此时如果指数不全为0,也不全为1
:此时指数e最小为1 - 1023 = -1022
,最大为:2046 - 1023 = 1023
。此时范围为-1022-1023
。此时我们在看78.735
的指数部分正确表示为6 + 1023 = 1029
0 10000000101 00111001 10000000 00000000 00000000 00000000 0000000 0000
五、浮点数的范围
因为我们知道最大的指数为1023
,此时最大的数为:1.11111111(52位) * 2 ^ 1023
,
其实和Number.MAX_VALUE
差不多。
正无穷的数字应该为2 ^ 1024
。
六、javascript中最大安全的整数
所谓安全范围,就是我们在这个范围内计算不会出现精度的丢失。 根据双精度的定义,可以得知,最大的安全整数:
1.111111(52位)
应该为Math.pow(2, 53) - 1
七、如何解决误差问题方法一:
我们可以先将其转化为整数,运算之后,然后再将其转化为小数。方法二:ES6中的Number.EPSILON
我们可以使用两数相加再减去目标数值,结果小于Number.EPSILON
即可。
版权说明 : 本文为转载文章, 版权归原作者所有 版权申明
原文链接 : https://blog.csdn.net/weixin_47450807/article/details/123195174
内容来源于网络,如有侵权,请联系作者删除!