AS3中的数字运算问题
2009-09-28 10:33
190 查看
一个看似简单的问题,但是在实际工作的时候却让人很郁闷。
用AS3做一个很简单的运算,
代码如下:
trace(82.125 * 17.43)
//输出1431.43875
var key:Number =82.125 * 17.43 + 616;
trace(key);
//输出2047.43875 ---A
trace(key + 1)
//输出2048.4387500000003 ---B
对比A与B 发现,A只是再加1 就出现B的结果,这是为什么呢?
查阅了很多资料,唯一觉得 有些道理的就是 “不要让数值差距过大的浮点数相加减,结过可能有偏差”.
但是这句话也没有给出为什么会结果有偏差。
难道AS3在处理这个看似简单的数字运算都不行吗?一直没有找到原因。
期待找到新的答案。或者找到新的解决方法,就是 2047.43875 + 1 = 2048.43875 而不是 2048.4387500000003
用AS3做一个很简单的运算,
代码如下:
trace(82.125 * 17.43)
//输出1431.43875
var key:Number =82.125 * 17.43 + 616;
trace(key);
//输出2047.43875 ---A
trace(key + 1)
//输出2048.4387500000003 ---B
对比A与B 发现,A只是再加1 就出现B的结果,这是为什么呢?
查阅了很多资料,唯一觉得 有些道理的就是 “不要让数值差距过大的浮点数相加减,结过可能有偏差”.
但是这句话也没有给出为什么会结果有偏差。
难道AS3在处理这个看似简单的数字运算都不行吗?一直没有找到原因。
期待找到新的答案。或者找到新的解决方法,就是 2047.43875 + 1 = 2048.43875 而不是 2048.4387500000003
相关文章推荐
- Java中的数字基本运算和精度问题
- 【leetcode】【Single Number题目】java 异或运算解决数字出现偶数次还是奇数次问题||HashMap
- .Net中的数字类型四则运算的有趣问题
- Java中的数字基本运算和精度问题
- 关于数字运算符值得注意的一点小问题
- Java中的数字基本运算和精度问题
- .Net中的数字类型四则运算的有趣问题
- as3计算字符串和数字相加时的悲催问题
- as3计算字符串和数字相加时的悲催问题
- Java中的数字基本运算和精度问题
- Java中的数字基本运算和精度问题
- java中数字基本运算、金额运算精度问题小结
- java 大数字运算结果的显示问题
- 浅谈AS3 中的for,for in ,for each in的效率问题
- AS3使用SOCKET遇到的安全沙箱问题
- 三种字符串加法运算的效率问题
- 只能输入数字的正则表达式在火狐的兼容问题解决方法
- PHP使用BC Math 函数处理浮点运算问题
- 在java中对double型运算出现的问题与解决方案
- 数字范围问题