javascript对float数值进行运算的误差解決
2011-02-28 09:42
253 查看
<script language="javascript">
alert(87593.21-3.12);
</script>
正确的显示的是:87590.09
但是运算出来的确是:87590.09000000001
可采用 toFixed处理,如:
<script language="javascript">
alert((87593.21-3.12).toFixed(2));
</script>
---------------------------------
toFixed 方法问题:
<script language="javascript">
alert(0.009.toFixed(2));
</script>
运算的结果0.00,但是需要的是 0.01
解决方法:
Number.prototype.toFixed = function(d)
{
var s=this+"";if(!d)d=0;
if(s.indexOf(".")==-1)s+=".";s+=new Array(d+1).join("0");
if (new RegExp("^(-|\\+)?(\\d+(\\.\\d{0,"+ (d+1) +"})?)\\d*$").test(s))
{
var s="0"+ RegExp.$2, pm=RegExp.$1, a=RegExp.$3.length, b=true;
if (a==d+2){a=s.match(/\d/g); if (parseInt(a[a.length-1])>4)
{
for(var i=a.length-2; i>=0; i--) {a[i] = parseInt(a[i])+1;
if(a[i]==10){a[i]=0; b=i!=1;} else break;}
}
s=a.join("").replace(new RegExp("(\\d+)(\\d{"+d+"})\\d$"),"$1.$2");
}if(b)s=s.substr(1);return (pm+s).replace(/\.$/, "");} return this+"";
};
alert(87593.21-3.12);
</script>
正确的显示的是:87590.09
但是运算出来的确是:87590.09000000001
可采用 toFixed处理,如:
<script language="javascript">
alert((87593.21-3.12).toFixed(2));
</script>
---------------------------------
toFixed 方法问题:
<script language="javascript">
alert(0.009.toFixed(2));
</script>
运算的结果0.00,但是需要的是 0.01
解决方法:
Number.prototype.toFixed = function(d)
{
var s=this+"";if(!d)d=0;
if(s.indexOf(".")==-1)s+=".";s+=new Array(d+1).join("0");
if (new RegExp("^(-|\\+)?(\\d+(\\.\\d{0,"+ (d+1) +"})?)\\d*$").test(s))
{
var s="0"+ RegExp.$2, pm=RegExp.$1, a=RegExp.$3.length, b=true;
if (a==d+2){a=s.match(/\d/g); if (parseInt(a[a.length-1])>4)
{
for(var i=a.length-2; i>=0; i--) {a[i] = parseInt(a[i])+1;
if(a[i]==10){a[i]=0; b=i!=1;} else break;}
}
s=a.join("").replace(new RegExp("(\\d+)(\\d{"+d+"})\\d$"),"$1.$2");
}if(b)s=s.substr(1);return (pm+s).replace(/\.$/, "");} return this+"";
};
相关文章推荐
- 使用原生的javascript进行字符的四则运算。
- ios 中float类型的数值计算的时候出现的误差
- Javascript parseFloat、parseDouble类型转换,数值加减,四舍五入
- js将html形式的时间转换为可以进行运算的数值
- JavaScript 使用 sort() 方法从数值上对数组进行排序
- 利用"$((...))"进行简单的数值运算
- 使用原生的javascript进行字符的四则运算。
- JavaScript基础 声明一个整形变量并赋值,两个整形变量进行加法运算
- javascript中的float运算精度实例分析
- JavaScript使用IEEE 标准进行二进制浮点运算产生莫名错误的解决方法
- 数据表记录包含表索引和数值,请对表索引相同的记录进行合并,即将相同索引的数值进行求和运算,输出按照key值升序进行输出。 输入描述: 先输入键值对的个数 然后输入成对的index和value值,以
- 使用原生的javascript进行字符的四则运算。
- JavaScript基础 声明一个整形变量并赋值,两个整形变量进行加法运算
- JAVA高精度数值运算方法,小数点后保留位数,结合相关例题进行介绍!
- JavaScript基础 toFixed() 将一个数值转成字符串,并进行四舍五入,保留指定位数的小数
- byte数组转float实现与byte转换其它类型时进行&运算原理
- javascript数值四则运算精度修正函数
- 使用原生的javascript进行字符的四则运算。
- javascript学习笔记(十一)对表格进行排序(包括数值、字符串、日期等数据类型)
- JavaScript基础 toFixed() 将一个数值转成字符串,并进行四舍五入,保留指定位数的小数