Javascript 浮点运算的问题分析与解决方法
（福利推荐：你还在原价购买阿里云服务器？现在阿里云0.8折限时抢购活动来啦！4核8G企业云服务器仅2998元/3年，立即抢购>>>：9i0i.cn/aliyun）
十进制 二进制
0.1 0.0001 1001 1001 1001 ...
0.2 0.0011 0011 0011 0011 ...
0.3 0.0100 1100 1100 1100 ...
0.4 0.0110 0110 0110 0110 ...
0.5 0.1
0.6 0.1001 1001 1001 1001 ...
所以比如 1.1 ，其程序实际上无法真正的表示 ‘1.1'，而只能做到一定程度上的准确,这是无法避免的精度丢失：
1.09999999999999999
在JavaScript中问题还要复杂些，这里只给一些在Chrome中测试数据：
输入 输出
1.0-0.9 == 0.1 False
1.0-0.8 == 0.2 False
1.0-0.7 == 0.3 False
1.0-0.6 == 0.4 True
1.0-0.5 == 0.5 True
1.0-0.4 == 0.6 True
1.0-0.3 == 0.7 True
1.0-0.2 == 0.8 True
1.0-0.1 == 0.9 True
解决
那如何来避免这类 1.0-0.9 != 0.1 的非bug型问题发生呢？下面给出一种目前用的比较多的解决方案, 在判断浮点运算结果前对计算结果进行精度缩小，因为在精度缩小的过程总会自动四舍五入:
(1.0-0.9).toFixed(digits) // toFixed() 精度参数须在 0 与20 之间
parseFloat((1.0-0.9).toFixed(10)) === 0.1 // 结果为True
parseFloat((1.0-0.8).toFixed(10)) === 0.2 // 结果为True
parseFloat((1.0-0.7).toFixed(10)) === 0.3 // 结果为True
parseFloat((11.0-11.8).toFixed(10)) === -0.8 // 结果为True
方法提炼
// 通过isEqual工具方法判断数值是否相等
function isEqual(number1, number2, digits){
digits = digits == undefined? 10: digits; // 默认精度为10
return number1.toFixed(digits) === number2.toFixed(digits);
}
isEqual(1.0-0.7, 0.3); // return true
// 原生扩展方式，更喜欢面向对象的风格
Number.prototype.isEqual = function(number, digits){
digits = digits == undefined? 10: digits; // 默认精度为10
return this.toFixed(digits) === number.toFixed(digits);
}
(1.0-0.7).isEqual(0.3); // return true
相关文章
这篇文章主要介绍了IE中鼠标经过option触发mouseout的解决方法,分析了IE中鼠标移到option时window.event.toElement返回值为null的原因及解决方法,需要的朋友可以参考下2015-01-01
这篇文章主要介绍了JavaScript 拖拽实例代码的相关资料,需要的朋友可以参考下2016-09-09
这篇文章主要介绍了十分钟教你上手ES2020新特性，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2020-02-02
彻底搞懂JS无缝滚动代码...2007-01-01
这篇文章主要介绍了JavaScript?Promise执行流程深刻理解，他是一个构造函数，每个创建的promise都有各自状态和值，且状态初始值为pending，值为undefined2022-06-06
three.js是一款webGL框架，由于其易用性被广泛应用。下面程序员之家小编通过案例给大家阐述three.js的基本配置方法，具体内容详情大家参考下本文吧2017-09-09
关于js中的继承，网上有很多文章了，在这里我写出自己对js中的继承的理解2012-01-01
js 数组 find,some,filter,reduce区别详解
区分清楚Array中filter、find、some、reduce这几个方法的区别，根据它们的使用场景更好的应用在日常编码中。具有一定的参考价值，感兴趣的小伙伴们可以参考一下2021-06-06
每个对像都有一个隐慝的属性用于指向到它的父对像（构造对像的函数）的原型(这里称为父原型或隐式原型），并从中继承它的属性和方法2010-10-10
这篇文章主要介绍了JS call()及apply()方法使用实例汇总,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2020-07-07
最新评论