您的位置:首页 > 移动开发 > IOS开发

iOS开发浮点数问题

2016-05-25 08:45 281 查看
之前在学习C语言的时候课堂上,老师就强调,不能使用float类型的数字进行相等比较判断。这个也确实听进去了,也明白原因是float是存储是不精确的。但是真正开发实践的时候,或许只有出问题了,才会醒悟:哦,原来是这样。这个问题在高大上的OC上同样存在,稍不注意就会出现问题。

iOS开发中,接受后台的响应,然后转化为模型对象,最终转化为NSString对象,然后控件显示出来。这一切都是那么的自然那么的熟悉。

一个数字,可以定义为number类型,也可以定义为字符串问题。如果后台返回的是字符串类型。在iOS json序列化的时候,会把字符串类型转化为NSString对象,这个一点问题没有。但是如果后台返回的是number类型。json序列化会将number类型转化为NSNumber对象。使用的时候,想当然的会将NSNumber转化为NSString对象。这样做很自然啊,没有问题,也用一两个数字测试了,转化是精确的。测试那边也测试通过了,然后产品上线了。最终,还是出现了问题。不说大数,就10以内的吧。有这么多的转换不精确。(如下图)不信你可以试一下,让后台定义double类型数据66.6,你转化为字符串会发现就是66.59999999999999。测试发现double转化为NSNumber的时候就会出现问题。double表示的字面值和其存储的值一般是不一样的,转化为NSNumber之后,有很大一些数字,在NSNumber的stringValue上会出错。

NSString* json = @”{\”number\”:66.6}”;

NSData* data = [json dataUsingEncoding:NSUTF8StringEncoding];

NSDictionary* dic = [NSJSONSerialization JSONObjectWithData:data options:NSJSONReadingMutableLeaves error:nil];

id object = dic[@”number”];

NSLog(@”%@”,[object class]);

NSLog(@”%@”,object);

打印结果

__NSCFNumber

66.59999999999999

示例

解决方法可以是把取String的doubleValue,然后再.2f保留两位小数进行构造字符串。千万不能取floatValue,floatValue在大于15万的浮点数字就会出现不精确了(笔者做过遍历测试)。而doubleValue在数十亿的范围内都是字面上精确的。

根本解决方法还是劝后台的同事把请求返回的数据全部设置为String类型

如果涉及到计算的问题,那就只得乖乖转化为NSDecimalNumber对象了。

文/HustBroventure(简书作者)

原文链接:http://www.jianshu.com/p/330c571c3e06

著作权归作者所有,转载请联系作者获得授权,并标注“简书作者”。
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: