您的位置:首页 > Web前端 > JavaScript

javascript对float数值进行运算的误差解決

2011-02-28 09:42 253 查看
<script language="javascript">

alert(87593.21-3.12);

</script>

正确的显示的是:87590.09
但是运算出来的确是:87590.09000000001

可采用 toFixed处理,如:

<script language="javascript">

alert((87593.21-3.12).toFixed(2));

</script>

---------------------------------

toFixed 方法问题:

<script language="javascript">

alert(0.009.toFixed(2));

</script>

运算的结果0.00,但是需要的是 0.01

解决方法:

Number.prototype.toFixed = function(d)

{

var s=this+"";if(!d)d=0;

if(s.indexOf(".")==-1)s+=".";s+=new Array(d+1).join("0");

if (new RegExp("^(-|\\+)?(\\d+(\\.\\d{0,"+ (d+1) +"})?)\\d*$").test(s))

{

var s="0"+ RegExp.$2, pm=RegExp.$1, a=RegExp.$3.length, b=true;

if (a==d+2){a=s.match(/\d/g); if (parseInt(a[a.length-1])>4)

{

for(var i=a.length-2; i>=0; i--) {a[i] = parseInt(a[i])+1;

if(a[i]==10){a[i]=0; b=i!=1;} else break;}

}

s=a.join("").replace(new RegExp("(\\d+)(\\d{"+d+"})\\d$"),"$1.$2");

}if(b)s=s.substr(1);return (pm+s).replace(/\.$/, "");} return this+"";

};
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: 
相关文章推荐