iOS开发浮点数问题
2016-05-25 08:45
281 查看
之前在学习C语言的时候课堂上,老师就强调,不能使用float类型的数字进行相等比较判断。这个也确实听进去了,也明白原因是float是存储是不精确的。但是真正开发实践的时候,或许只有出问题了,才会醒悟:哦,原来是这样。这个问题在高大上的OC上同样存在,稍不注意就会出现问题。
iOS开发中,接受后台的响应,然后转化为模型对象,最终转化为NSString对象,然后控件显示出来。这一切都是那么的自然那么的熟悉。
一个数字,可以定义为number类型,也可以定义为字符串问题。如果后台返回的是字符串类型。在iOS json序列化的时候,会把字符串类型转化为NSString对象,这个一点问题没有。但是如果后台返回的是number类型。json序列化会将number类型转化为NSNumber对象。使用的时候,想当然的会将NSNumber转化为NSString对象。这样做很自然啊,没有问题,也用一两个数字测试了,转化是精确的。测试那边也测试通过了,然后产品上线了。最终,还是出现了问题。不说大数,就10以内的吧。有这么多的转换不精确。(如下图)不信你可以试一下,让后台定义double类型数据66.6,你转化为字符串会发现就是66.59999999999999。测试发现double转化为NSNumber的时候就会出现问题。double表示的字面值和其存储的值一般是不一样的,转化为NSNumber之后,有很大一些数字,在NSNumber的stringValue上会出错。
NSString* json = @”{\”number\”:66.6}”;
NSData* data = [json dataUsingEncoding:NSUTF8StringEncoding];
NSDictionary* dic = [NSJSONSerialization JSONObjectWithData:data options:NSJSONReadingMutableLeaves error:nil];
id object = dic[@”number”];
NSLog(@”%@”,[object class]);
NSLog(@”%@”,object);
打印结果
__NSCFNumber
66.59999999999999
示例
解决方法可以是把取String的doubleValue,然后再.2f保留两位小数进行构造字符串。千万不能取floatValue,floatValue在大于15万的浮点数字就会出现不精确了(笔者做过遍历测试)。而doubleValue在数十亿的范围内都是字面上精确的。
根本解决方法还是劝后台的同事把请求返回的数据全部设置为String类型
如果涉及到计算的问题,那就只得乖乖转化为NSDecimalNumber对象了。
文/HustBroventure(简书作者)
原文链接:http://www.jianshu.com/p/330c571c3e06
著作权归作者所有,转载请联系作者获得授权,并标注“简书作者”。
iOS开发中,接受后台的响应,然后转化为模型对象,最终转化为NSString对象,然后控件显示出来。这一切都是那么的自然那么的熟悉。
一个数字,可以定义为number类型,也可以定义为字符串问题。如果后台返回的是字符串类型。在iOS json序列化的时候,会把字符串类型转化为NSString对象,这个一点问题没有。但是如果后台返回的是number类型。json序列化会将number类型转化为NSNumber对象。使用的时候,想当然的会将NSNumber转化为NSString对象。这样做很自然啊,没有问题,也用一两个数字测试了,转化是精确的。测试那边也测试通过了,然后产品上线了。最终,还是出现了问题。不说大数,就10以内的吧。有这么多的转换不精确。(如下图)不信你可以试一下,让后台定义double类型数据66.6,你转化为字符串会发现就是66.59999999999999。测试发现double转化为NSNumber的时候就会出现问题。double表示的字面值和其存储的值一般是不一样的,转化为NSNumber之后,有很大一些数字,在NSNumber的stringValue上会出错。
NSString* json = @”{\”number\”:66.6}”;
NSData* data = [json dataUsingEncoding:NSUTF8StringEncoding];
NSDictionary* dic = [NSJSONSerialization JSONObjectWithData:data options:NSJSONReadingMutableLeaves error:nil];
id object = dic[@”number”];
NSLog(@”%@”,[object class]);
NSLog(@”%@”,object);
打印结果
__NSCFNumber
66.59999999999999
示例
解决方法可以是把取String的doubleValue,然后再.2f保留两位小数进行构造字符串。千万不能取floatValue,floatValue在大于15万的浮点数字就会出现不精确了(笔者做过遍历测试)。而doubleValue在数十亿的范围内都是字面上精确的。
根本解决方法还是劝后台的同事把请求返回的数据全部设置为String类型
如果涉及到计算的问题,那就只得乖乖转化为NSDecimalNumber对象了。
文/HustBroventure(简书作者)
原文链接:http://www.jianshu.com/p/330c571c3e06
著作权归作者所有,转载请联系作者获得授权,并标注“简书作者”。
相关文章推荐
- iOS cookies
- iOS cookie
- iOS之CoreImage图像处理框架
- iOS开发中的错误整理,AFN框架和MJRefresh框架搭配应该注意的问题
- iOS开发小技巧--iOS8之后的cell自动计算高度
- 偏好设置存储
- iOS开发小技巧--学会包装控件(有些view的位置由于代码或系统原因,位置或者尺寸不容易修改或者容易受外界影响)
- [实践]iOS 单元测试(二)实战经验
- iOS通过URL调用第三方地图进行导航
- 在iOS上实现一个简单的日历控件
- iOS开发小技巧--适当的清空模型中的某个数据,达到自己的需求,记得最后将数据还原(百思项目评论页面处理最热评论)
- iOS开发中的错误整理,再一次整理通过通知中心来处理键盘,一定记得最后关闭通知中心
- IOS数据存储简述
- IOS之路--OC之继承
- CocoaPods 如何正确的上传到SVN?
- iOS开发小技巧--根据文字,计算label中文字高度
- 关于iOS的强引用,弱引用及strong,retain,copy,weak,assignd的关系
- iOS TableView上面有空白的区域时的处理
- iOS开发:NSString用法大全
- iOS中基于BLE的学习博客