ios 中float类型的数值计算的时候出现的误差
2014-10-08 22:08
246 查看
例如l两个float,或者一个float类型和一个整形相乘的时候,(1.2*9)我们预期的到的应该是10.800000,然而他有可能会出现10.7999999或者10.8000001这种情况.二我要将计算的结果以字符串的形式显示出来,在网上看他们的解决方法,有人说如果对精度要求不高的话,可以+.0001(这样就会使千位以上的误差变成零)然后在乘以1000,取整,再除以1000,这样做之后,犹豫还是涉及计算,我又出现了误差,最终我是依靠%.2f这种float转变成字符串的形式,因为他自身会实现四舍五入,正好能够对应这个问题.
内容来自用户分享和网络整理，不保证内容的准确性，如有侵权内容，可联系管理员处理 
相关文章推荐
- java基本类型（数值范围）：浮点的底层表示定义，float计算快一些
- java 既然出现double类型×2的n次方的时候计算结果出现偏差
- 记录Java Double类型的数值相加/相减出现精度误差的问题
- java float 类型存储到 sqlserver 的numeric 类型中，出现计算溢出的问题
- java基本类型（数值范围）：浮点的底层表示定义，float计算快一些
- ios开发求数值的double、float、int类型值的绝对值的函数
- java基本类型（数值范围）：浮点的底层表示定义，float计算快一些
- MySQL数值类型——FLOAT、DOUBLE和DECIMAL类型
- 超出long类型存储数值的超大计算
- MYSQL数值类型INT，SMALLINT,BIGINT,MEDIUMINT,FLOAT的相关说明，存储大小等！
- C/C++中int/long/float/double数值类型与字符串互相转换[总结]
- sqlserver 数据库 float类型 计算BUG!?
- javascript对float数值进行运算的误差解決
- java中，数值计算时的类型转换 （ 两个int类型相加，赋值给double ）
- java Long类型转换为flex AS Number类型时出现数值错误
- java float 类型存储到 sqlserver 的numeric 类型中，出现计算溢出的问题
- mysql的float类型是单精度浮点类型导致数据误差.
- 探讨float类型的数值，为什么两个float不能直接相等
- float与double类型的四种特殊的数值
- 如果把float改成char又对了 为什么运行的时候岀问题了 C语言 类型问题