前言
某天,客服告诉我,有客户投诉,说账单金额数据统计不对,同时测试也反馈在IE11浏览器上又是正确的。
经过排查发现是toFixed()
引起的。
缘由
来看一下toFixed()
在chrome、火狐、IE下的不同表现。
chrome:
火狐:
IE:
可以看到toFixed()
的四舍五入在chrome、火狐上并不准确。
而toFixed()
在chrome、火狐上也并不是网上所说的用银行家舍入法来进行四舍五入的。
例如银行家舍入法在 (2.55).toFixed(1) = 2.5
、(3.55).toFixed(1) = 3.5
上就不符合了。
那为什么会这样呢,要从toFixed的定义说起,来看ecmascript 规范对toFixed的表述:
按上图中的步骤来演示一下(2.55).toFixed(1) = 2.5
的处理过程。
x为2.55,小于1021,f为1,要使n÷10f−x准确的数学值尽可能接近零,取n为25和n为26,
可以看到最接近零的应该是 -0.04999... ,故n为25,那么m为25,k为2,k−f为1,故a为2,则b为5,所以(2.55).toFixed(1)
的结果为2.5
。
可以看出(2.55).toFixed(1)
的结果是2.5
而不是2.6
,是25/10−2.55=−0.0499999... 引起,而25/10−2.55为什么不等于0.5,其原因和0.1+0.2不等0.3是一样,可以看我这篇专栏。
但是在IE浏览器中,执行 25/10−2.55 和 26/10−2.55 的结果和在chrome和火狐浏览器中执行的结果是一样。这里只能推断IE浏览器中定义的toFixed不符合ecmascript 规范,具体原因目前也不清楚,如果知道的同学可以在评论中留言,谢谢。
解决
假设要四舍五入的数字为number,要保留n位小数,可以先用number∗10n ,然后用 Math.round()
取整,最后在除去10n,间接实现四舍五入。另外toFixed()
还有个自动补零的功能,也要实现一下,故下面简单封装了一个toFixed方法来实现四舍五入。
function toFixed(number, m) {
if (typeof number !== 'number') {
throw new Error("number不是数字");
}
let result = Math.round(Math.pow(10, m) * number) / Math.pow(10, m);
result = String(result);
if (result.indexOf(".") == -1) {
result += ".";
result += new Array(m + 1).join('0');
} else {
let arr = result.split('.');
if (arr[1].length < m) {
arr[1] = arr[1] += new Array(m - arr[1].length + 1).join('0')
}
result = arr.join('.')
}
return result
}
常见问题FAQ
- 免费下载或者VIP会员专享资源能否直接商用?
- 本站所有资源版权均属于原作者所有,这里所提供资源均只能用于参考学习用,请勿直接商用。若由于商用引起版权纠纷,一切责任均由使用者承担。更多说明请参考 VIP介绍。
- 提示下载完但解压或打开不了?
- 找不到素材资源介绍文章里的示例图片?
- 模板不会安装或需要功能定制以及二次开发?
发表评论
还没有评论,快来抢沙发吧!