您的位置:首页 > Web前端 > JavaScript

JS浮点计算时精度解决办法

2010-01-15 16:58 465 查看
以前在写一个项目时用到了一个JS在前台验证面积的问题,当时写倒没觉得有什么问题,可是客户用了一段时间之后,居然发生了一点点小问题,具体问题是这样的:1.5451+0.34133 按理来说应该是等于1.88643,结果JS给我计算时居然算成1.88629999999998了。有点小晕,后来查了一下资料,原因是js的浮点运算的一个bug.凡是结果中小数点位数超出3位的计算都存在这样一个bug。即然已经知道了问题所在,当然就要解决啦。以下是我的解决办法,贴出来给大家分享一下:

Number.prototype.add = function(arg){
var bit1,bit2,m;
try{
bit1 = arg.toString().split(".")[1].length;
}catch(e){
bit1 = 0;
}
try{
bit2 = this.toString().split(".")[1].length;
}catch(e){
bit2 = 0;
}
m = Math.pow(10,Math.max(r1,r2));
return (arg*m+this*m)/m;
}
Number.prototype.sub = function(arg){
var bit1,bit2,m;
try{
bit1 = arg.toString().split(".")[1].length;
}catch(e){
bit1 = 0;
}
try{
bit2 = this.toString().split(".")[1].length;
}catch(e){
bit2 = 0;
}
m = Math.pow(10,Math.max(r1,r2));
var n = (bit1>bit2)?bit1:bit2;
return ((arg*m-this*m)/m).toFixed(n);
}
Number.prototype.mul = function(arg){
var bit1,bit2,m;
try{
bit1 = arg.toString().split(".")[1].length;
}catch(e){
bit1 = 0;
}
try{
bit2 = this.toString().split(".")[1].length;
}catch(e){
bit2 = 0;
}
m = bit1+bit2;
var n = (bit1>bit2)?bit1:bit2;
return (Number(arg.toString().replace(".",""))*Number(this.toString().replace(".",""))/Math.pow(10,m)).toFixed(n);
}
Number.prototype.div = function(arg){
var bit1,bit2,m;
try{
bit1 = arg.toString().split(".")[1].length;
}catch(e){
bit1 = 0;
}
try{
bit2 = this.toString().split(".")[1].length;
}catch(e){
bit2 = 0;
}
return (Number(arg.toString().replace(".",""))/Number(this.toString().replace(".",""))*Math.pow(10,bit2-bit1)
}

//调用方法
加法:1.5451+0.34133 的调用方法为:var s = (1.5451).add(0.34133);
减法: 1.5451-0.34133 的调用方法为:var s = (1.5451).sub(0.34133);
乘法: 1.5451*0.34133 的调用方法为:var s = (1.5451).mul(0.34133);
除法: 1.5451/0.34133 的调用方法为:var s = (1.5451).div(0.34133);
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: