您的位置:首页 > 产品设计 > UI/UE

猜一猜: Console.WriteLine(5000.88 + 5000 == 10000.88); 结果为True还是False?

2007-12-17 10:22 429 查看
By Ben
致命的错误出现在一个项目实践中: Console.WriteLine(5000.88 + 5000 == 10000.88);结果为False

分析:
用"=="来比较两个double应该相等的类型,返回真值完全是不确定的。计算机对浮点数的进行计算的原理是只保证必要精度内正确即可,例如:double a=0.9+0.2;那么只能保证小数点后1位这个精度是正确的,计算机计算这个加法的结果a的值可能是1.100000001,也可能是1.100000002也可能就是1.1,也就是说计算机计算后并不保证0.1以下各位得到的都是正确的,所以直接用==进行比较是不可行的。 比较两个double数是否相等应看其相减的绝对值是否小于某一数值,此值一般低于两数精确度例如:Console.WriteLine(Math.Abs(5000+5000.88-10000.88)<0.001);
详细解释:
http://www.yoda.arachsys.com/csharp/floatingpoint.html
上正是讲述.NET中这个问题的。大家可以参考一下。
Trackback: http://tb.blog.csdn.net/TrackBack.aspx?PostId=130722
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: 
相关文章推荐