javascript float数学运算精度控制
2013-09-25 14:59
477 查看
float类型的数据在做数学运算时,由于精度的问题,很多时候不能正确的表示出我们希望的结果,解决此问题的基本策略是手动控制精度,也就是程序员强制控制float数据的小数点后的位数,基于此思路的实现方案,不一而足。下面简单介绍最常用的几种:
(1)使用Math.round()函数
Math.round()方法可把一个数字舍入为最接近的整数,如3.5舍入为4,-3.5舍入为-3。
var num = 12.345678;
var num1 = Math.round(num*100)/100;//12.35
alert(num);//12.345678
(2)使用toFixed(num)方法
toFixed() 方法可把 Number 四舍五入为指定小数位数的数字。
var num = 12.345678;
var num1 = num.toFixed(2);//12.35
alert(num);//12.345678
(3)使用改进的toFixed()方法
在实际应用中,有一种尽量减小计算误差的方法,就是计算之初,将数值放大,再将计算的结果原倍数缩小,
这样可以减少每次截取数值的次数,也就减小了直接计算的误差。下面这种写法相当于重写了js内部的toFixed方
法,会覆盖掉原始的toFixed方法。
Number.prototype.toFixed = function ( exponent)
{
return parseInt( this * Math.pow( 10 , exponent) + 0.5 )/Math.pow(10,exponent);
}
(1)使用Math.round()函数
Math.round()方法可把一个数字舍入为最接近的整数,如3.5舍入为4,-3.5舍入为-3。
var num = 12.345678;
var num1 = Math.round(num*100)/100;//12.35
alert(num);//12.345678
(2)使用toFixed(num)方法
toFixed() 方法可把 Number 四舍五入为指定小数位数的数字。
var num = 12.345678;
var num1 = num.toFixed(2);//12.35
alert(num);//12.345678
(3)使用改进的toFixed()方法
在实际应用中,有一种尽量减小计算误差的方法,就是计算之初,将数值放大,再将计算的结果原倍数缩小,
这样可以减少每次截取数值的次数,也就减小了直接计算的误差。下面这种写法相当于重写了js内部的toFixed方
法,会覆盖掉原始的toFixed方法。
Number.prototype.toFixed = function ( exponent)
{
return parseInt( this * Math.pow( 10 , exponent) + 0.5 )/Math.pow(10,exponent);
}
相关文章推荐
- javascript中的float运算精度
- javascript中的float运算精度
- javascript中的float运算精度实例分析
- javascript中的float运算精度实例分析
- javascript 中浮点型数字的运算精度
- Java Float类型 减法运算时精度丢失问题
- JavaScript浮点数及运算精度问题
- JavaScript 高精度数学运算 优化版
- javascript数值四则运算精度修正函数
- Java Float类型 减法运算时精度丢失问题 -
- Java Float类型 减法运算时精度丢失问题
- matlab控制运算精度函数digits(A)和vpa(B)的使用方法
- Matlab digits与vpa 控制运算精度
- Java Float类型 减法运算时精度丢失问题
- JavaScript浮点数及运算精度调整详解
- JavaScript 浮点数运算 精度问题
- 奇怪的js问题(JavaScript浮点运算的问题) float类型相乘的有时候 会出现错误!! 注意!!!
- javascript 中浮点型数字的运算精度
- javascript 数字逗号分隔、货币取消分隔、精度转换控制
- POJ 2109 Power of Cryptography 数学题 double和float精度和范围