您的位置:首页 > 其它

float 类型精度和两数比较大小

2013-03-14 20:34 218 查看
Windows VS2008 下,float型精度是7位小数.
在精度范围内,可以直接用< , > , == 逻辑判断两个float类型数据的大小.
在精度范围之外,多余数位将被忽略,从而分不同情况 :
以下是小数位为9,8,7的验证.结果证明 7位为有效小数位数,>7位的都忽略.

若多余位之前的有效位数字相等 , 则判断为两数相等 , 既多余位已经不起作用;
若多余位之前的有效位数字不等, 则依据有效位进行> ,<, == ,>= ,<= 的逻辑判断.

?
?
?
?
?
7位以下小数位都可以进行比较逻辑运算.

float是单精度型占4个字节(32位),只能提供7位有效数字,小数点后最多保留6位。

double是双精度型占4个字节(64位),只能提供16位有效数字,小数点后最多保留6位。
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: