JS中toFixed()方法引起的精度丢失的问题解决
2014-12-26 16:47
621 查看
JS中toFixed()方法的问题及解决方案
最近发现JS当中toFixed()方法存在一些问题，采用原生的Number对象的原型对象上的toFixed()方法时，规则并不是所谓的“四舍五入”或者是“四舍六入五成双”，所谓“四舍六入五成双”，在百度百科上给的解释是：也即“4舍6入5凑偶”这里“四”是指≤4 时舍去，"六"是指≥6时进上，"五"指的是根据5后面的数字来定，当5后有数时，舍5入1；当5后无有效数字时，需要分两种情况来讲：①5前为奇数，舍5入1；②5前为偶数，舍5不进。（0是最小的偶数） 。百度百科上涉及的几个例子在实际情况下确实成立，但不科学，并不能覆盖所有的情况。测试浏览器：屌丝浏览器IE6以及高级屌丝浏览器IE78(此处为方便未使用原生IE678，不过IETester破天荒地表现良好，精确做法应该是一个版本对应一个虚拟机来测试)和所有现代主流浏览器包括IE9、IE10、FF、Chrome、Opera、Safari。（注：在使用IE10的类似firebug的开发工具时，采用兼容IE低版本浏览器模式时的测试结果跟使用原生低版本IE浏览器的测试结果不一致）
在浮点数末尾≤4或者≥6的情况下的舍入没有争议，但当末尾正好等于5的情况下可谓混乱之极。
一、FF 稳定版测试结果如下所示：
二、FF Aurora测试结果如下所示：
三、FF Nightly的测试结果如下所示：
四、Chrome稳定版的测试结果如下所示：
五、Chromium的测试结果如下所示：
六、Chrome Canary的测试结果如下所示：
七、Opera稳定版的测试结果如下所示：
八、Opera Next的测试结果如下所示：
九、Safari的测试结果如下所示：
十、IE6-8的测试结果如下所示：
十一、IE9、10的测试结果如下所示：
总结：众所周知，遵循IEEE754数值格式的语言的浮点计算会出现精度损耗的通病，ES也并非独此一家，因此尽量不要进行某个特定浮点数值的测试，如：0.1+0.2；
解决方案：重写Number.prototype.toFixed()方法:
1 <html>
2 <head>
3 <script type="text/javascript">
4 Number.prototype.toFixed=function (d) {
5 var s=this+"";
6 if(!d)d=0;
7 if(s.indexOf(".")==-1)s+=".";
8 s+=new Array(d+1).join("0");
9 if(new RegExp("^(-|\\+)?(\\d+(\\.\\d{0,"+(d+1)+"})?)\\d*$").test(s)){
10 var s="0"+RegExp.$2,pm=RegExp.$1,a=RegExp.$3.length,b=true;
11 if(a==d+2){
12 a=s.match(/\d/g);
13 if(parseInt(a[a.length-1])>4){
14 for(var i=a.length-2;i>=0;i--){
15 a[i]=parseInt(a[i])+1;
16 if(a[i]==10){
17 a[i]=0;
18 b=i!=1;
19 }else break;
20 }
21 }
22 s=a.join("").replace(new RegExp("(\\d+)(\\d{"+d+"})\\d$"),"$1.$2");
23
24 }if(b)s=s.substr(1);
25 return (pm+s).replace(/\.$/,"");
26 }return this+"";
27
28 };
29 </script>
30 </head>
31 <body>
32 <input type="button" value="显示0.009.toFixed(2)" onclick="alert(0.009.toFixed(2))"><br />
33 <input type="button" value="显示0.123.toFixed(2)" onclick="alert(0.123.toFixed(2))"><br />
34 <input type="button" value="显示0.125.toFixed(2)" onclick="alert(0.125.toFixed(2))"><br />
35 <input type="button" value="显示0.126.toFixed(2)" onclick="alert(0.126.toFixed(2))"><br />
36 <input type="button" value="显示20.445.toFixed(2)" onclick="alert(20.445.toFixed(2))"><br />
37 <input onclick="alert(20.405.toFixed(2))" type="button" value="显示20.405.toFixed(2)"> <br />
38 <input onclick="alert(20.415.toFixed(2))" type="button" value="显示20.415.toFixed(2)"> <br />
39 <input onclick="alert(20.425.toFixed(2))" type="button" value="显示20.425.toFixed(2)"> <br />
40 <input onclick="alert(20.435.toFixed(2))" type="button" value="显示20.435.toFixed(2)"> <br />
41 <input onclick="alert(20.445.toFixed(2))" type="button" value="显示20.445.toFixed(2)"> <br />
42 <input onclick="alert(20.455.toFixed(2))" type="button" value="显示20.455.toFixed(2)"> <br />
43 <input onclick="alert(20.465.toFixed(2))" type="button" value="显示20.465.toFixed(2)"> <br />
44 <input onclick="alert(20.475.toFixed(2))" type="button" value="显示20.475.toFixed(2)"> <br />
45 <input onclick="alert(20.485.toFixed(2))" type="button" value="显示20.485.toFixed(2)"> <br />
46 <input onclick="alert(20.495.toFixed(2))" type="button" value="显示20.495.toFixed(2)"> <br />
47 <input onclick="alert(0.05.toFixed(1))" type="button" value="显示0.05.toFixed(1)"> <br />
48 <input onclick="alert(0.15.toFixed(1))" type="button" value="显示0.15.toFixed(1)"> <br />
49 <input onclick="alert(0.25.toFixed(1))" type="button" value="显示0.25.toFixed(1)"> <br />
50 <input onclick="alert(0.35.toFixed(1))" type="button" value="显示0.35.toFixed(1)"> <br />
51 <input onclick="alert(0.45.toFixed(1))" type="button" value="显示0.45.toFixed(1)"> <br />
52 <input onclick="alert(0.55.toFixed(1))" type="button" value="显示0.55.toFixed(1)"> <br />
53 <input onclick="alert(0.65.toFixed(1))" type="button" value="显示0.65.toFixed(1)"> <br />
54 <input onclick="alert(0.75.toFixed(1))" type="button" value="显示0.75.toFixed(1)"> <br />
55 <input onclick="alert(0.85.toFixed(1))" type="button" value="显示0.85.toFixed(1)"> <br />
56 <input onclick="alert(0.95.toFixed(1))" type="button" value="显示0.95.toFixed(1)"> <br />
57 </body>
58 </html>最近发现JS当中toFixed()方法存在一些问题，采用原生的Number对象的原型对象上的toFixed()方法时，规则并不是所谓的“四舍五入”或者是“四舍六入五成双”，所谓“四舍六入五成双”，在百度百科上给的解释是：也即“4舍6入5凑偶”这里“四”是指≤4
时舍去，"六"是指≥6时进上，"五"指的是根据5后面的数字来定，当5后有数时，舍5入1；当5后无有效数字时，需要分两种情况来讲：①5前为奇数，舍5入1；②5前为偶数，舍5不进。（0是最小的偶数） 。百度百科上涉及的几个例子在实际情况下确实成立，但不科学，并不能覆盖所有的情况。
测试浏览器：屌丝浏览器IE6以及高级屌丝浏览器IE78和所有现代主流浏览器包括IE9、IE10、FF、chrome、opera、safari。（注：在使用IE10的类似firebug的开发工具时，采用兼容IE低版本浏览器模式时的测试结果跟使用原生低版本IE浏览器的测试结果不一致）
在浮点数末尾≤4或者≥6的情况下的舍入没有争议，但当末尾正好等于5的情况下可谓混乱之极。
总结：众所周知，遵循IEEE754数值格式的语言的浮点计算会出现精度损耗的通病，ES也并非独此一家，因此尽量不要进行某个特定浮点数值的测试，如：0.1+0.2；
解决方案：重写Number.prototype.toFixed()方法:
内容来自用户分享和网络整理，不保证内容的准确性，如有侵权内容，可联系管理员处理 
相关文章推荐
- js加减乘除丢失精度问题解决方法
- js加减乘除丢失精度问题解决方法 你试一下12*1.3就知道了
- JS中toFixed()方法引起的问题如何解决
- js加减乘除丢失精度问题解决方法
- JS中toFixed()方法引起的问题如何解决
- js加减乘除丢失精度问题解决方法
- 关于js浮点精度计算不准确的问题及解决方法
- jquery.form.js的ajax提交，CKEditor编辑器内容丢失问题的解决方法！
- [ JAVA编程 ] double类型计算精度丢失问题及解决方法
- C#中??和？分别是什么意思？ 在ASP.NET开发中一些单词的标准缩写 C#SESSION丢失问题的解决办法 在C#中INTERFACE与ABSTRACT CLASS的区别 SQL命令语句小技巧 JQUERY判断CHECKBOX是否选中三种方法 JS中!=、==、!==、===的用法和区别 在对象比较中，对象相等和对象一致分别指的是什么？
- java中double类型数据加减操作精度丢失问题及解决方法
- java中double和float精度丢失问题及解决方法
- JS浮点类型运算精度丢失问题解决办法
- JS的浮点数计算精度丢失问题解决方案
- IE中JS跳转丢失referrer问题的2个解决方法
- IE中JS跳转丢失referrer问题的2个解决方法
- 解决JavaScript数字精度丢失问题的方法
- Java中double和float精度丢失问题及解决方法
- Nginx下Django Admin界面Css、JS丢失问题解决方法