javascript(js)浮点数字精度问题的一个解决办法。
2008-04-27 04:34
871 查看
见代码
<script>
Number.prototype.round = function(){
var b = arguments.length > 0 ? arguments[0] : 0;
var NUMBER = Math.round(this * Math.pow(10, b)) * Math.pow(10, -b);
NUMBER = Math.round(NUMBER * 100000000000) / 100000000000;
var ret = NUMBER.toString();
if(b > 0){
if(ret.indexOf(".") <= -1){ret = ret.space(b, "0", true);}
else{
if(ret.split(".")[1].length <= b){ret = ret.space((b - ret.split(".")[1].length), "0");}
else{ret = ret.split(".")[0]+"."+ret.split(".")[1].substr(0, (b - 1));}
}
}
if(b <= 0) ret = ret.split(".")[0]
return ret;
}
String.prototype.space = function(n){
var s, d;
switch(arguments.length){
case 1 : s = " "; d = ""; break;
case 2 : s = arguments[1]; d = ""; break;
case 3 : s = arguments[1]; d = eval(arguments[2]) ? "." : "";
}
var ret = this+d;
for(var i=0; i<n; i++){
ret += s;
}
return ret;
}
var a = 336813.56+84651.6;
alert(a);
alert(a.round(2));
</script>
js浮点数字计算的问题一直让我很头疼,长考之后想出这样一个解决办法。目前在我的系统中运行正常,是否具有普遍性,还请各位读者代为测试一下。结果如何,请大家回复。
Number.prototype.round还具有一些其它特性,大家可以试试alert(a.round(3))和alert(a.round(-2))。
<script>
Number.prototype.round = function(){
var b = arguments.length > 0 ? arguments[0] : 0;
var NUMBER = Math.round(this * Math.pow(10, b)) * Math.pow(10, -b);
NUMBER = Math.round(NUMBER * 100000000000) / 100000000000;
var ret = NUMBER.toString();
if(b > 0){
if(ret.indexOf(".") <= -1){ret = ret.space(b, "0", true);}
else{
if(ret.split(".")[1].length <= b){ret = ret.space((b - ret.split(".")[1].length), "0");}
else{ret = ret.split(".")[0]+"."+ret.split(".")[1].substr(0, (b - 1));}
}
}
if(b <= 0) ret = ret.split(".")[0]
return ret;
}
String.prototype.space = function(n){
var s, d;
switch(arguments.length){
case 1 : s = " "; d = ""; break;
case 2 : s = arguments[1]; d = ""; break;
case 3 : s = arguments[1]; d = eval(arguments[2]) ? "." : "";
}
var ret = this+d;
for(var i=0; i<n; i++){
ret += s;
}
return ret;
}
var a = 336813.56+84651.6;
alert(a);
alert(a.round(2));
</script>
js浮点数字计算的问题一直让我很头疼,长考之后想出这样一个解决办法。目前在我的系统中运行正常,是否具有普遍性,还请各位读者代为测试一下。结果如何,请大家回复。
Number.prototype.round还具有一些其它特性,大家可以试试alert(a.round(3))和alert(a.round(-2))。
相关文章推荐
- JS浮点类型运算精度丢失问题解决办法
- JS浮点类型运算精度丢失问题解决办法
- Javascript 浮点运算精度问题分析与解决
- 解决javascript浮点数相加,精度的问题
- js浮点运算精度丢失的解决办法
- Javascript 浮点运算精度问题分析与解决
- js浮点运算精度丢失的解决办法
- 解决JavaScript数字精度丢失问题的方法
- 关于js中计算精度的问题解决办法
- JS浮点计算精度问题分析与解决
- 一个页面使用两次timepicker.js引起的Maximum call stack size exceeded问题解决办法及bug修复
- JS浮点计算时精度解决办法
- 一个页面使用两次timepicker.js引起的Maximum call stack size exceeded问题解决办法及bug修复
- js计算出现多位小数-Javascript 浮点运算问题分析与解决
- 关于js浮点精度计算不准确的问题及解决方法
- JS 浮点运算精度解决办法 (把小数转换为整数进行计算【但是不能超过js的整数上限】)
- 一个解决js浮点运算精度的代码
- js 计算精度问题,及解决办法
- js浏览器兼容问题总结及解决办法