读书笔记
2014-04-07 17:56
155 查看
1.浮点数值的最高精度是17位小数,但在进行算术计算式其精确度远远不如整数。例如,0.1+0.2 的结果不是0.3,而是0.00000000000000004。这个小小的舍入误差 会导致无法测试特定的浮点数值。
例如:
在这个例子中,我们测试的两个数之和是不是等于0.3。如果这两个数是0.05和0.25,或者是0.15和0.15都不会出问题,而如前所述,如果两个数是0.1和0.2,那么测试将无法通过。因此,永远不要测试某个特定的浮点数值。
例如:
if ( a + b == 0.3){ alert("You got 0.3.") }
在这个例子中,我们测试的两个数之和是不是等于0.3。如果这两个数是0.05和0.25,或者是0.15和0.15都不会出问题,而如前所述,如果两个数是0.1和0.2,那么测试将无法通过。因此,永远不要测试某个特定的浮点数值。
相关文章推荐
- fabric Q&A
- Quartz2之入门示例
- ZOJ 3229 有源汇上下界网络流
- phpQuery - PHP 处理 HTML DOM 的好帮手
- JAVA循环迭代中删除或添加集合数据报java.util.ConcurrentModificationException错误
- 关于响应者链
- HashSet中是如何判断元素是否重复的
- python学习笔记
- 地图滚动及场景跳转的封转
- Android APK反编译详解(附图)
- NYOJ-92 图像有用区域 BFS
- cocos2dx入门学习第一天
- Javascript 基础(二)
- error RC2108: expected numerical dialog constant
- 使用JSONObject应引入的JAR包
- Android Canvas练习(2)自已绘饼图(Pie Chart)
- 背包问题3(多重背包)
- Re-installation failed due to different application signatures.的解决方案
- HUDOJ-----1394Minimum Inversion Number
- HDFS应用场景、部署、原理与基本架构