JS之小数精度问题
2017-02-08 08:50
441 查看
<script type="text/javascript" language="javascript"> //加法 Number.prototype.add = function(arg){ var r1,r2,m; try{r1=this.toString().split(".")[1].length}catch(e){r1=0} try{r2=arg.toString().split(".")[1].length}catch(e){r2=0} m=Math.pow(10,Math.max(r1,r2)) return (this*m+arg*m)/m; } //减法 Number.prototype.sub = function (arg){ return this.add(-arg); } //乘法 Number.prototype.mul = function (arg) { var m=0,s1=this.toString(),s2=arg.toString(); try{m+=s1.split(".")[1].length}catch(e){} try{m+=s2.split(".")[1].length}catch(e){} return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m); } //除法 Number.prototype.div = function (arg){ var t1=0,t2=0,r1,r2; try{t1=this.toString().split(".")[1].length}catch(e){} try{t2=arg.toString().split(".")[1].length}catch(e){} with(Math){ r1=Number(this.toString().replace(".","")) r2=Number(arg.toString().replace(".","")) return (r1/r2)*pow(10,t2-t1); } } //测试 alert(Number(0.09999999).add(0.00000001));//弹出: 0.1 //注意,如果是负数,一定要先使用Number转型,否则结果不正确 alert(Number(-0.09999999).sub(0.00000001));//弹出: -0.1 alert(Number(0.012345).mul(0.000001));//弹出: 1.2345e-8 alert(Number(0.000001).div(0.0001));//弹出: 0.01 </script>
相关文章推荐
- js中的小数计算精度问题,修正计算精度
- 解决js中小数相加损失精度的问题
- js中小数精度问题
- 用JS做计算的时候小数位不正常--Js中parseFloat()方法所产生的精度问题
- js小数相加、相乘失去精度问题解析详解(最优方案)
- JS两个小数相加,精度不对问题
- js小数运算精度问题,js浮点数运算时出现精度问题
- JS小数运算精度问题
- js,java小数计算精度问题
- js中小数运算精度丢失问题
- js精确小数乘法(解决精度问题)
- js 基本运算小数精度解决问题
- js 浮点小数计算精度问题 parseFloat 精度问题
- js计算精度问题
- JS浮点类型运算精度丢失问题解决办法
- js计算精度问题小结
- java中float/double浮点数的计算失去精度问题(即小数位数增加的问题)
- js中加减乘除遇到小数时的位数问题
- JS 浮点运算精度解决办法 (把小数转换为整数进行计算【但是不能超过js的整数上限】)
- java中float/double浮点数的计算失去精度问题(即小数位数增加的问题)