解决javascript中的浮点数计算不精确问题
2017-05-03 16:45
507 查看
在javascript中的浮点数计算不准确。javascript的两个浮点数算法结果会有误差。
加减法
原理: 取小数位多的一个(Math.max(r1,r2)) 将加数都乘以10的m次方(变成整数) 相加后再除以m,得出精确数据
乘除法
原理: 将乘数和被乘数转成字符串,计算其小数点后位数的和(m) 将乘数和被乘数去掉小数点(转成整数)后,转为Number类型(可以精确乘运算) 相乘后除以10的m次方,得出精确数据
//乘法
第一种方法:
function accMul(arg1,arg2) {
var m=0,s1=arg1.toString(),s2=arg2.toString();
try{m+=s1.split(".")[1].length}catch(e){}
try{m+=s2.split(".")[1].length}catch(e){}
return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
}
Number.prototype.mul = function (arg){
return accMul(arg, this);
}
注意的是:try/catch可能会出现些问题 http://www.cnblogs.com/freshmen/p/4424667.html
第二种方法:
function Mul2(arg1,arg2){
var r1,r2, m, n,q;
if(parseInt(arg1) == arg1){
r1 = 0;
}else{
r1 = arg1.toString().split(".")[1].length;
}
if(parseInt(arg2) == arg2){
r2 = 0;
}else{
r2 = arg2.toString().split(".")[1].length;
}
m = Math.pow(10,r1);
n = Math.pow(10,r2);
q = m*n;
var sum = (((arg1*m) * (arg2*n))/q);
return sum;
}
//除法
function FloatDiv(arg1,arg2){
var t1=0,t2=0,r1,r2;
try{t1=arg1.toString().split(".")[1].length}catch(e){}
try{t2=arg2.toString().split(".")[1].length}catch(e){}
with(Math){
r1=Number(arg1.toString().replace(".",""));
r2=Number(arg2.toString().replace(".",""));
return (r1/r2)*pow(10,t2-t1);
}
}
//减法
function FloatSub(arg1,arg2){
var r1,r2,m,n;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2));
//动态控制精度长度
n=(r1>=r2)?r1:r2;
return ((arg1*m-arg2*m)/m).toFixed(n);
}
//加法
function FloatAdd(arg1,arg2){ var r1,r2,m; try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} m=Math.pow(10,Math.max(r1,r2)); return (arg1*m+arg2*m)/m; }
相关文章推荐
- javascript中关于浮点数不精确问题解决方案
- 解决Python中浮点数计算结果不够精确的问题:decimal模块
- Javascript 浮点计算问题分析与解决
- 彻底解决Javascript数字计算不精确的问题
- js计算出现多位小数-Javascript 浮点运算问题分析与解决
- Javascript中小数精确计算问题
- 解决javascript浮点数相加,精度的问题
- java精确除法计算,四舍五入 Java问题通用解决代码
- Java浮点数float和double精确计算的精度误差问题总结
- Java浮点数float,bigdecimal和double精确计算的精度误差问题总结
- JavaScript对浮点小数运算结果不精确bug的解决办法
- Javascript 浮点运算精度问题分析与解决
- javascript计算浮点数精确计算,java浮点数精确计算
- Javascript 浮点运算问题分析与解决
- Java浮点数float和double精确计算的精度误差问题总结
- javascript 浮点运算问题分析与解决
- 实现js浮点数加、减、乘、除的精确计算(网上很多文章里的方法是不能解决所有js浮点数计算误差的)
- 实现js浮点数加、减、乘、除的精确计算(网上很多文章里的方法是不能解决所有js浮点数计算误差的)
- Java浮点数float和double精确计算的精度误差问题总结
- JAVA中遇到金额精确计算时候的问题解决