您的位置:首页 > Web前端 > JavaScript

js 计算精度问题,及解决办法

2018-01-29 15:52 931 查看

js计算精度问题(浮点数误差,大数计算出错)

JavaScript 浮点数运算时经常遇到会 0.000000001 和 0.999999999 这样奇怪的结果,如:

0.1+0.2   //0.30000000000000004
1-0.9     //0.09999999999999998
9007199254740993-9007199254740992  //0
Math.pow(2,1023) //8.98846567431158e+307
//但是
Math.pow(2,1024)  //Infinity


对于产生这些计算误差的具体原因这里不做探讨,如果想要了解可以到 https://github.com/camsong/blog/issues/9 了解其原理。

解决办法

1.代码如下

// 解决四维运算,js计算失去精度的问题

//加法
Number.prototype.add = function(arg){
var r1,r2,m;
try{r1=this.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2))
return (this*m+arg*m)/m
}
//减法
Number.prototype.sub = function (arg){
return this.add(-arg);
}
//乘法
Number.prototype.mul = function (arg)
{
var m=0,s1=this.toString(),s2=arg.toString();
try{m+=s1.split(".")[1].length}catch(e){}
try{m+=s2.split(".")[1].length}catch(e){}
return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
}
//除法
Number.prototype.div = function (arg){
var t1=0,t2=0,r1,r2;
try{t1=this.toString().split(".")[1].length}catch(e){}
try{t2=arg.toString().split(".")[1].length}catch(e){}
with(Math){
r1=Number(this.toString().replace(".",""))
r2=Number(arg.toString().replace(".",""))
return (r1/r2)*pow(10,t2-t1);
}
}


0.1+0.2  // 0.30000000000000004
0.1.add(0.2)  //0.3
0.3-0.1  //0.19999999999999998
0.3.sub(0.1)  //0.2


2.可以通过引入 math.js 或者 bigNumber.js 进行解决

例如

99999999999999999999-99999999999999999000  // 0
new BigNumber('99999999999999999999').minus('99999999999999999000')  //999
99999999999999999999===99999999999999999000  //true
new BigNumber('99999999999999999999').eq('99999999999999999000')  //false


BigNumber.js 支持很多相关计算,如果想了解更多请查阅相关API
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: