float 类型精度和两数比较大小
2013-03-14 20:34
218 查看
Windows VS2008 下,float型精度是7位小数.
在精度范围内,可以直接用< , > , == 逻辑判断两个float类型数据的大小.
在精度范围之外,多余数位将被忽略,从而分不同情况 :
以下是小数位为9,8,7的验证.结果证明 7位为有效小数位数,>7位的都忽略.
若多余位之前的有效位数字相等 , 则判断为两数相等 , 既多余位已经不起作用;
若多余位之前的有效位数字不等, 则依据有效位进行> ,<, == ,>= ,<= 的逻辑判断.
?
?
?
?
?
7位以下小数位都可以进行比较逻辑运算.
float是单精度型占4个字节(32位),只能提供7位有效数字,小数点后最多保留6位。
double是双精度型占4个字节(64位),只能提供16位有效数字,小数点后最多保留6位。
在精度范围内,可以直接用< , > , == 逻辑判断两个float类型数据的大小.
在精度范围之外,多余数位将被忽略,从而分不同情况 :
以下是小数位为9,8,7的验证.结果证明 7位为有效小数位数,>7位的都忽略.
若多余位之前的有效位数字相等 , 则判断为两数相等 , 既多余位已经不起作用;
若多余位之前的有效位数字不等, 则依据有效位进行> ,<, == ,>= ,<= 的逻辑判断.
?
float是单精度型占4个字节(32位),只能提供7位有效数字,小数点后最多保留6位。
double是双精度型占4个字节(64位),只能提供16位有效数字,小数点后最多保留6位。
相关文章推荐
- float 类型精度和两数比较大小
- float和double两数间比较大小
- bash比较float类型大小
- float类型和0比较大小
- 计算机中基本类型float值表示和大小比较问题
- iOS float类型比较大小
- float与double的范围和精度以及大小非零比较
- float类型和0比较大小
- iOS float类型比较大小
- float类型比较大小
- IOS float类型比较大小
- Integer包装类与基本类型比较值大小,用equal不用‘==’
- java比较两个日期类型大小
- float与double类型区别比较
- 两个float 怎么比较大小
- float 与double类型范围和精度
- double由于是双精度,所以比较大小不能直接用>,<或者=,需要使用BigDecimal,具体看例子
- 两个float数的比较大小
- 深入理解C++浮点数(float、double)类型数据比较、相等判断
- [疯狂Java]面向对象:基本类型的包装器类型、自动装箱/拆箱、包装器类型大小/相等比较