JS浮点类型运算精度丢失问题解决办法
2012-12-21 15:57
681 查看
//加法
Number.prototype.add = function(arg){
var r1,r2,m;
try{r1=this.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2))
return (this*m+arg*m)/m
}
//减法
Number.prototype.sub = function (arg){
return this.add(-arg);
}
//乘法
Number.prototype.mul = function (arg)
{
var m=0,s1=this.toString(),s2=arg.toString();
try{m+=s1.split(".")[1].length}catch(e){}
try{m+=s2.split(".")[1].length}catch(e){}
return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
}
//除法
Number.prototype.div = function (arg){
var t1=0,t2=0,r1,r2;
try{t1=this.toString().split(".")[1].length}catch(e){}
try{t2=arg.toString().split(".")[1].length}catch(e){}
with(Math){
r1=Number(this.toString().replace(".",""))
r2=Number(arg.toString().replace(".",""))
return (r1/r2)*pow(10,t2-t1);
}
}
应用:
alert(0.1+0.2) // 0.30000000000000004
alert(Number(0.1).add(0.2)); // 0.3
Number.prototype.add = function(arg){
var r1,r2,m;
try{r1=this.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2))
return (this*m+arg*m)/m
}
//减法
Number.prototype.sub = function (arg){
return this.add(-arg);
}
//乘法
Number.prototype.mul = function (arg)
{
var m=0,s1=this.toString(),s2=arg.toString();
try{m+=s1.split(".")[1].length}catch(e){}
try{m+=s2.split(".")[1].length}catch(e){}
return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
}
//除法
Number.prototype.div = function (arg){
var t1=0,t2=0,r1,r2;
try{t1=this.toString().split(".")[1].length}catch(e){}
try{t2=arg.toString().split(".")[1].length}catch(e){}
with(Math){
r1=Number(this.toString().replace(".",""))
r2=Number(arg.toString().replace(".",""))
return (r1/r2)*pow(10,t2-t1);
}
}
应用:
alert(0.1+0.2) // 0.30000000000000004
alert(Number(0.1).add(0.2)); // 0.3
相关文章推荐
- JS浮点类型运算精度丢失问题解决办法
- js浮点运算精度丢失的解决办法
- js浮点运算精度丢失的解决办法
- JS 浮点数四则运算精度丢失问题
- 解决double类型运算时精度丢失问题
- [置顶] double、float类型进行运算造成精度丢失的问题解决
- javascript(js)浮点数字精度问题的一个解决办法。
- js 浮点运算出现的精度丢失问题
- JS 浮点数四则运算精度丢失问题
- 关于java中long类型的数据转换json传到前台时丢失精度问题的解决办法
- JS 浮点运算精度解决办法 (把小数转换为整数进行计算【但是不能超过js的整数上限】)
- js中小数运算精度丢失问题
- C#中??和?分别是什么意思? 在ASP.NET开发中一些单词的标准缩写 C#SESSION丢失问题的解决办法 在C#中INTERFACE与ABSTRACT CLASS的区别 SQL命令语句小技巧 JQUERY判断CHECKBOX是否选中三种方法 JS中!=、==、!==、===的用法和区别 在对象比较中,对象相等和对象一致分别指的是什么?
- js 计算精度问题,及解决办法
- 关于js中计算精度的问题解决办法
- BigDecimal解决商业运算中丢失精度的问题
- Spring MVC自定义消息转换器(可解决Long类型数据传入前端精度丢失的问题)
- 奇怪的js问题(JavaScript浮点运算的问题) float类型相乘的有时候 会出现错误!! 注意!!!
- [转]JS浮点数运算Bug的解决办法(转)
- JS浮点计算时精度解决办法