js 中将string转化为double,避免产生多位数和计算精度损失。
2015-09-23 19:53
1146 查看
整理一下,在写js代码时,我们经常会因为带有小数的运算而头痛。因为它会出现产生多位数和计算精度损失。
在Java代码中我们可以有以下3种方式转化
首先,我们了解下它出现多位小数的原因:
在javascript中,带小数的浮点型数据运算是以2进制计算的。
了解了原因我们来讲讲具体该怎么做:
1、当小数点后面的个数相同时:
num1=1.23
num2=24.21
计算得:
num1+num2=1.2324.21 -----这结果表明是,字符串直接拼接
num1*1+num2*1=25.44 ----结果可见,num1*1 是直接将它转变成我们想要的结果了
2、当小数点后面的个数不同时:(注意当我们的string后面有空格,每一个空格都视为一位小数)
num1=12.1;
num2=0.21;
计算得:
num1*1+num2*1=12.219999999999999 这种情况我们就不能怎么做了
改为:
(num1*100+num2*100)/100=12.22
3、当我们无法判读小数点的位数时(注意:带入的参数num1和num2最好是去掉尾部的空)
加法运算
在Java代码中我们可以有以下3种方式转化
parseFloat("123.2") parseInt("121"); parseDouble()但是我们找了JavaScript中的方法,我们发现js中只有将String转为int、float的方法。并没有转化为double的。这时怎么办。
首先,我们了解下它出现多位小数的原因:
在javascript中,带小数的浮点型数据运算是以2进制计算的。
了解了原因我们来讲讲具体该怎么做:
1、当小数点后面的个数相同时:
num1=1.23
num2=24.21
计算得:
num1+num2=1.2324.21 -----这结果表明是,字符串直接拼接
num1*1+num2*1=25.44 ----结果可见,num1*1 是直接将它转变成我们想要的结果了
2、当小数点后面的个数不同时:(注意当我们的string后面有空格,每一个空格都视为一位小数)
num1=12.1;
num2=0.21;
计算得:
num1*1+num2*1=12.219999999999999 这种情况我们就不能怎么做了
改为:
(num1*100+num2*100)/100=12.22
3、当我们无法判读小数点的位数时(注意:带入的参数num1和num2最好是去掉尾部的空)
加法运算
function numAdd(num1, num2) { var baseNum, baseNum1, baseNum2; try { baseNum1 = num1.toString().split(".")[1].length; } catch (e) { baseNum1 = 0; } try { baseNum2 = num2.toString().split(".")[1].length; } catch (e) { baseNum2 = 0; } baseNum = Math.pow(10, Math.max(baseNum1, baseNum2)); var precision = (baseNum1 >= baseNum2) ? baseNum1 : baseNum2;//精度 return ((num1 * baseNum + num2 * baseNum) / baseNum).toFixed(precision);; };减法运算
function numSub(num1, num2) { var baseNum, baseNum1, baseNum2; try { baseNum1 = num1.toString().split(".")[1].length; } catch (e) { baseNum1 = 0; } try { baseNum2 = num2.toString().split(".")[1].length; } catch (e) { baseNum2 = 0; } baseNum = Math.pow(10, Math.max(baseNum1, baseNum2)); var precision = (baseNum1 >= baseNum2) ? baseNum1 : baseNum2; return ((num1 * baseNum - num2 * baseNum) / baseNum).toFixed(precision); }; // 乘法运算 <pre name="code" class="javascript">function numMulti(num1, num2) { var baseNum = 0; try { baseNum += num1.toString().split(".")[1].length; } catch (e) { } try { baseNum += num2.toString().split(".")[1].length; } catch (e) { } return Number(num1.toString().replace(".", "")) * Number(num2.toString().replace(".", "")) / Math.pow(10, baseNum); }; // 除法运算,避免数据相除小数点后产生多位数和计算精度损失。 function numDiv(num1, num2) { var baseNum1 = 0, baseNum2 = 0; var baseNum3, baseNum4; try { baseNum1 = num1.toString().split(".")[1].length; } catch (e) { baseNum1 = 0; } try { baseNum2 = num2.toString().split(".")[1].length; } catch (e) { baseNum2 = 0; } with (Math) { baseNum3 = Number(num1.toString().replace(".", "")); baseNum4 = Number(num2.toString().replace(".", "")); return (baseNum3 / baseNum4) * pow(10, baseNum2 - baseNum1); } };
相关文章推荐
- 转化JSON格式
- javascript模拟getElementByClassName
- javascript自学之路(二)————js对象类型之宿主对象
- js onsubmit
- jsp 的页面 转换几个小问题response.sendRedirect
- seajs 学习笔记
- javascript自学之路(一)————js数据类型
- JavaScript+Struts2样例总结
- JS跨域问题
- js中的this
- 【CSS3】纯CSS代码实现模拟时钟,+js对时功能。
- js prototype 详解
- 原生js实现歌词滚动以及卡拉OK效果
- js判断浏览器类型
- 10分钟掌握XML、JSON及其解析
- jsp中显示list 以及 c:forEach标签的使用
- JavaScript及C# URI编码详解
- JavaScript面向对象(1)
- javascript系列(3)-在html的文档模式
- JS调用中文乱码怎么办