go float 相等比较
2016-07-21 00:00
197 查看
float比较
因为浮点数不是一种精确的表达方式,所以像整型那样直接用==来判断两个浮点数是否相等是不可行的,这可能会导致不稳定的结果。下面是一种推荐的替代方 :
使用中f1 > f2,math.Dim返回的是x-y与0中大的那个值,如果f1<f2会出现异常情况
import "math" // p为用户自定义的比较精度0.00001 func IsEqual(f1, f2, p float64) bool { return math.Dim(f1, f2) < p } //true 比较位数和精度相同 var a float64 = 0.0000123 var b float64 = 0.000012234 var p float64 = 0.0000001 //false p精度比比较位数更精确 var a float64 = 0.0000123 var b float64 = 0.000012234 var p float64 = 0.00000001 //false 精度0.0000002 大于比较精度 var a float64 = 0.0000124 var b float64 = 0.000012234 var p float64 = 0.0000001
总结: flaot 因为底层存放的问题,并不是一个准确的值,所以在比较的时候不能直接进行相等比较,而在使用精度比较的时候,设置精度和比较位数一样,如果使用第二种比比较为更精确一位则两个数就不相等了。
相关文章推荐
- go reflect struct 遍历,反射
- go语言的beedb
- Django中的Form
- 从编译到使用 - ngrok 服务搭建
- Google Test资料
- Xcode集成Google Test
- google快捷键,通过浏览器本身来查看
- [ZigBee] 12、ZigBee之看门狗定时器——饿了就咬人的GOOD DOG
- algorithm 题集五 (16.07.20)
- Good Bye 2014
- 会飞的汽车真能改变世界吗?
- mongoose学习文档
- django 扩展User
- 配置go服务器
- Mongoose学习参考文档——基础篇
- HDU 4722 Good Numbers(数位DP)
- KMP算法的思考
- Educational Codeforces Round 5 D. Longest k-Good Segment(双指针)
- 关于Django ORM filter方法小结
- codeforces水题100道 第六题 Yandex.Algorithm 2011 Qualification 2 A. Double Cola (math)