写在前面
以前面试遇到过一个问题:为什么 JavaScript 里 0.1+0.2 !== 0.3
。当时我回答了浮点数精度有误差,所以不等于。显然面试官不满意,这不谁都知道吗?
后来看小红书,发现上面也强调过不要进行 0.1+0.2 === 0.3
的判断,但是仅仅提到如下理由:
上面仅仅提到 ECMAScript 使用了基于 IEEE754 标准的浮点数存储机制导致了误差,但是深入 IEEE754 标准,甚至深入计算机层面,又是为什么?在这篇文章中,我将以计算机的视角,深挖一下答案,希望对你也有所帮助。
什么是浮点数?
首先需要知道,计算机中数的表示有定点数和浮点数。
-
定点数:小数点位置确定。假设 16 位机器字长,可以规定小数点在第 x 位和第 x+1 位之间,例如在第 3 位和第 4 位之间,则表示整数部分有 2 位,小数部分有 13 位(第 1 位表示符号位)。小数点在符号位后面成为小数定点机(这类机器只能表示小数),小数点在末尾成为整数定点机(这类机器只能表示整数)。
-
浮点数:小数点位置不确定。类似于十进制的科学计数法表示。由 阶数(exponent,含阶码和阶符) 和 尾数(significand,也叫 mantissa,含尾码和尾符) 构成。尾数的位数决定了浮点数的精度,阶数的位数决定了浮点数的范围。
通常定点数由于整数和小数位数固定,因此表示数范围有限,而浮点数通过阶乘,可以让数的表示范围扩大。因此浮点数用途更广。下面这幅图描述了两者的区别:
浮点数表达式
这里先给出浮点数的表达式:
N=S×rj常见问题FAQ
- 免费下载或者VIP会员专享资源能否直接商用?
- 本站所有资源版权均属于原作者所有,这里所提供资源均只能用于参考学习用,请勿直接商用。若由于商用引起版权纠纷,一切责任均由使用者承担。更多说明请参考 VIP介绍。
- 提示下载完但解压或打开不了?
- 找不到素材资源介绍文章里的示例图片?
- 模板不会安装或需要功能定制以及二次开发?
发表评论
还没有评论,快来抢沙发吧!