JS浮点计算时精度解决办法
2010-01-15 16:58
465 查看
以前在写一个项目时用到了一个JS在前台验证面积的问题,当时写倒没觉得有什么问题,可是客户用了一段时间之后,居然发生了一点点小问题,具体问题是这样的:1.5451+0.34133 按理来说应该是等于1.88643,结果JS给我计算时居然算成1.88629999999998了。有点小晕,后来查了一下资料,原因是js的浮点运算的一个bug.凡是结果中小数点位数超出3位的计算都存在这样一个bug。即然已经知道了问题所在,当然就要解决啦。以下是我的解决办法,贴出来给大家分享一下:
Number.prototype.add = function(arg){
var bit1,bit2,m;
try{
bit1 = arg.toString().split(".")[1].length;
}catch(e){
bit1 = 0;
}
try{
bit2 = this.toString().split(".")[1].length;
}catch(e){
bit2 = 0;
}
m = Math.pow(10,Math.max(r1,r2));
return (arg*m+this*m)/m;
}
Number.prototype.sub = function(arg){
var bit1,bit2,m;
try{
bit1 = arg.toString().split(".")[1].length;
}catch(e){
bit1 = 0;
}
try{
bit2 = this.toString().split(".")[1].length;
}catch(e){
bit2 = 0;
}
m = Math.pow(10,Math.max(r1,r2));
var n = (bit1>bit2)?bit1:bit2;
return ((arg*m-this*m)/m).toFixed(n);
}
Number.prototype.mul = function(arg){
var bit1,bit2,m;
try{
bit1 = arg.toString().split(".")[1].length;
}catch(e){
bit1 = 0;
}
try{
bit2 = this.toString().split(".")[1].length;
}catch(e){
bit2 = 0;
}
m = bit1+bit2;
var n = (bit1>bit2)?bit1:bit2;
return (Number(arg.toString().replace(".",""))*Number(this.toString().replace(".",""))/Math.pow(10,m)).toFixed(n);
}
Number.prototype.div = function(arg){
var bit1,bit2,m;
try{
bit1 = arg.toString().split(".")[1].length;
}catch(e){
bit1 = 0;
}
try{
bit2 = this.toString().split(".")[1].length;
}catch(e){
bit2 = 0;
}
return (Number(arg.toString().replace(".",""))/Number(this.toString().replace(".",""))*Math.pow(10,bit2-bit1)
}
//调用方法
加法:1.5451+0.34133 的调用方法为:var s = (1.5451).add(0.34133);
减法: 1.5451-0.34133 的调用方法为:var s = (1.5451).sub(0.34133);
乘法: 1.5451*0.34133 的调用方法为:var s = (1.5451).mul(0.34133);
除法: 1.5451/0.34133 的调用方法为:var s = (1.5451).div(0.34133);
Number.prototype.add = function(arg){
var bit1,bit2,m;
try{
bit1 = arg.toString().split(".")[1].length;
}catch(e){
bit1 = 0;
}
try{
bit2 = this.toString().split(".")[1].length;
}catch(e){
bit2 = 0;
}
m = Math.pow(10,Math.max(r1,r2));
return (arg*m+this*m)/m;
}
Number.prototype.sub = function(arg){
var bit1,bit2,m;
try{
bit1 = arg.toString().split(".")[1].length;
}catch(e){
bit1 = 0;
}
try{
bit2 = this.toString().split(".")[1].length;
}catch(e){
bit2 = 0;
}
m = Math.pow(10,Math.max(r1,r2));
var n = (bit1>bit2)?bit1:bit2;
return ((arg*m-this*m)/m).toFixed(n);
}
Number.prototype.mul = function(arg){
var bit1,bit2,m;
try{
bit1 = arg.toString().split(".")[1].length;
}catch(e){
bit1 = 0;
}
try{
bit2 = this.toString().split(".")[1].length;
}catch(e){
bit2 = 0;
}
m = bit1+bit2;
var n = (bit1>bit2)?bit1:bit2;
return (Number(arg.toString().replace(".",""))*Number(this.toString().replace(".",""))/Math.pow(10,m)).toFixed(n);
}
Number.prototype.div = function(arg){
var bit1,bit2,m;
try{
bit1 = arg.toString().split(".")[1].length;
}catch(e){
bit1 = 0;
}
try{
bit2 = this.toString().split(".")[1].length;
}catch(e){
bit2 = 0;
}
return (Number(arg.toString().replace(".",""))/Number(this.toString().replace(".",""))*Math.pow(10,bit2-bit1)
}
//调用方法
加法:1.5451+0.34133 的调用方法为:var s = (1.5451).add(0.34133);
减法: 1.5451-0.34133 的调用方法为:var s = (1.5451).sub(0.34133);
乘法: 1.5451*0.34133 的调用方法为:var s = (1.5451).mul(0.34133);
除法: 1.5451/0.34133 的调用方法为:var s = (1.5451).div(0.34133);
相关文章推荐
- JS 浮点运算精度解决办法 (把小数转换为整数进行计算【但是不能超过js的整数上限】)
- js 计算精度问题,及解决办法
- javascript(js)浮点数字精度问题的一个解决办法。
- JS浮点类型运算精度丢失问题解决办法
- js计算精度解决办法
- JS浮点计算精度问题分析与解决
- JS浮点类型运算精度丢失问题解决办法
- js浮点运算精度丢失的解决办法
- 关于js浮点精度计算不准确的问题及解决方法
- js浮点运算精度丢失的解决办法
- 关于js中计算精度的问题解决办法
- JS数字计算精度误差解决方法
- js 小数点计算 BUG 解决办法
- JS 浮点运算的bug解决办法
- 一个解决js浮点运算精度的代码
- JS的浮点数计算精度丢失问题解决方案
- [转]JS浮点数运算Bug的解决办法(转)
- 【Java】解决计算浮点数精度问题(BigDecimal)
- input取值转化为数值型及js浮点计算误差解决
- js 浮点数计算精度不准确问题