js小数计算小数点后显示多位小数--问题
2014-12-11 16:18
681 查看
http://www.cnblogs.com/jackal/archive/2011/06/15/2081489.html
首先写一个demo 重现问题,我使用的是一个js在线测试环境[打开]
改写displaynum()函数
function displaynum()
{
var num = 22.77;
alert(num + 10);
}
点击Show按钮 结果显示32.769999999996 出现了N多小数.
也并不是所有数字都会出现这种现象, 除了 22.99 2.777 , 好像这几个数字也没什么特殊.
查了一些资料, 一是JS浮点数计算的bug, 另一个是和计算机最终转换成二进制计算有关系, 但是为什么不是所有小数都会有这种现象, 目前我也不清楚, 有时间再去深入研究一下。
现在有两种解决方法, 第一种就是利用JS .toFixed(n) 方法, 直接获取n位小数, 个人觉得这种方法在数据精度上会有一些问题. 如果数据精度要求不高的话 可以使用. 第二种方法就是自己写js 运算方法.
以下是自定义加法函数, 使用此方法进行相加会避免上面问题。
function addNum(num1,num2){
var sq1,sq2,m;
try{sq1=num1.toString().split(".")[1].length;} catch(e){sq1=0;}
try{sq2=num2.toString().split(".")[1].length;} catch(e){sq2=0;}
m=Math.pow(10,Math.max(sq1,sq2));
return ( num1 * m + num2 * m ) / m;
}
当然简单一点也可以写成 alert((num * 3 + 10 * 3) /3); 这样也不会出现n多小数。
alert((num * 3 + 10 * 3) /3); 与 alert(num + 10); 这两种写法计算机在底层转换成二进制运算是有区别的,
或许这就是出现上述问题的原因,还有待我去深入研究.
园子里的高手有知道的, 还请赐教 O(∩_∩)O~~!
首先写一个demo 重现问题,我使用的是一个js在线测试环境[打开]
改写displaynum()函数
function displaynum()
{
var num = 22.77;
alert(num + 10);
}
点击Show按钮 结果显示32.769999999996 出现了N多小数.
也并不是所有数字都会出现这种现象, 除了 22.99 2.777 , 好像这几个数字也没什么特殊.
查了一些资料, 一是JS浮点数计算的bug, 另一个是和计算机最终转换成二进制计算有关系, 但是为什么不是所有小数都会有这种现象, 目前我也不清楚, 有时间再去深入研究一下。
现在有两种解决方法, 第一种就是利用JS .toFixed(n) 方法, 直接获取n位小数, 个人觉得这种方法在数据精度上会有一些问题. 如果数据精度要求不高的话 可以使用. 第二种方法就是自己写js 运算方法.
以下是自定义加法函数, 使用此方法进行相加会避免上面问题。
function addNum(num1,num2){
var sq1,sq2,m;
try{sq1=num1.toString().split(".")[1].length;} catch(e){sq1=0;}
try{sq2=num2.toString().split(".")[1].length;} catch(e){sq2=0;}
m=Math.pow(10,Math.max(sq1,sq2));
return ( num1 * m + num2 * m ) / m;
}
当然简单一点也可以写成 alert((num * 3 + 10 * 3) /3); 这样也不会出现n多小数。
alert((num * 3 + 10 * 3) /3); 与 alert(num + 10); 这两种写法计算机在底层转换成二进制运算是有区别的,
或许这就是出现上述问题的原因,还有待我去深入研究.
园子里的高手有知道的, 还请赐教 O(∩_∩)O~~!
相关文章推荐
- js小数计算小数点后显示多位小数
- js小数计算小数点后显示多位小数
- js小数计算小数点后显示多位小数
- js小数计算小数点后显示多位小数的实现方法
- js小数计算小数点后显示多位小数(转)
- js小数计算小数点后显示多位小数(转)
- js小数计算小数点后显示多位小数
- js计算出现多位小数-Javascript 浮点运算问题分析与解决
- (小数)javascript(js)的小数点乘法除法问题
- js,java小数计算精度问题
- JS的toFixed方法设置小数点位数后再进行计算,数据出错问题
- 问题总结···js浮点小数计算问题
- JS小数运算出现多位小数的问题
- Oracle 数据库,当列值小于1的小数,小数点前面的0是不显示的异常问题
- 关于js小数计算的问题
- JS小数运算出现多位小数的问题
- js中的小数计算精度问题,修正计算精度
- C#练习记录(请计算出一个整型数组的平均值。{ 1, 3, 5, 7, 90, 2, 4, 6, 8, 10 }。要求:计算结果如果有小数,则显示小数点后两位(四舍五入)。Math.Round())
- js-小数计算问题
- js-计算保留小数点一两位并避免出现无限小数的bug