double类型的2.0-1.1为什么等于0.89999999999999999999
2016-12-10 01:51
316 查看
double类型占了64位。
第一位为符号位,0为正,1为负。
最后52位为十进制转换为二进制后的值。
中间11位为阶码,可表示-1024~1023,表示最后52位为2的多少次方。比如最后52位为二进制的1.0*2^1(即二进制10),那么十一位阶码的十进制值为1,为了方便表示,加上1023变成非负数。
float类型占32位(1位符号位,8位阶码,23位二进制值)
将2.0转换为二进制表示
整数部分为10
小数部分为00000000000000000000000000000000000000000000000000
整数部分和小数部分合起来占52位
将1.1转换为二进制表示
整数部分为1 (整数部分转换为二进制为不停地除以2,直到为1为止)
小数部分为00011001100110011001100110011001100110011001100110 (0.1转换为二进制表示为不停地*2,直到小数部分为0为止)
最终二进制2.0 减去二进制1.1 (原理同十进制减法,不够向前借位)
得到0.111001100110011001100无穷循环,为0.89999999
2.0二进制为:0 10000000000 1000000000000000000000000000000000000(51个0) (阶位计算为1+1023)
1.1二进制位:0 01111111111 100011001100110011001100110011001100 1100 (阶位计算为0+1023)
0.89999999表示为二进制为:0 011111110 111001100110011001100(1100循环直到52位) (阶位计算为-1 + 1023)
想当年在学校死活无法理解二进制的转换以及double float long 为什么有范围区别。工作两年了终于明白了,亡羊补牢,为时也不晚
第一位为符号位,0为正,1为负。
最后52位为十进制转换为二进制后的值。
中间11位为阶码,可表示-1024~1023,表示最后52位为2的多少次方。比如最后52位为二进制的1.0*2^1(即二进制10),那么十一位阶码的十进制值为1,为了方便表示,加上1023变成非负数。
float类型占32位(1位符号位,8位阶码,23位二进制值)
将2.0转换为二进制表示
整数部分为10
小数部分为00000000000000000000000000000000000000000000000000
整数部分和小数部分合起来占52位
将1.1转换为二进制表示
整数部分为1 (整数部分转换为二进制为不停地除以2,直到为1为止)
小数部分为00011001100110011001100110011001100110011001100110 (0.1转换为二进制表示为不停地*2,直到小数部分为0为止)
最终二进制2.0 减去二进制1.1 (原理同十进制减法,不够向前借位)
得到0.111001100110011001100无穷循环,为0.89999999
2.0二进制为:0 10000000000 1000000000000000000000000000000000000(51个0) (阶位计算为1+1023)
1.1二进制位:0 01111111111 100011001100110011001100110011001100 1100 (阶位计算为0+1023)
0.89999999表示为二进制为:0 011111110 111001100110011001100(1100循环直到52位) (阶位计算为-1 + 1023)
想当年在学校死活无法理解二进制的转换以及double float long 为什么有范围区别。工作两年了终于明白了,亡羊补牢,为时也不晚
相关文章推荐
- double类型的2.0-1.1为什么等于0.89999999999999999999
- 为什么1.2-1.1不等于0.1。
- 程序中double类型的数输出为什么要用lf
- 为什么2.0比1.1慢啊???!!!!
- java,为什么float f1=0.1是错的? 0.1是double类型的么?为什么?谢
- 为什么float类型会报错,而改成double类型就不会
- Double类型只用8字节存储但范围为什么那么大
- C++ double 类型范围为什么那么大
- 使用BigDecimal处理两个double数相减2.0-1.1 = 0.89999999999999999...误差
- JDBC 2.0中的高级数据类型
- 为什么需要将类中的属性定义为private类型
- 浏览.NET Framework 2.0 类型库中新增的常用功能
- .NET 2.0泛型集合类与.NET 1.1集合类的区别(一)
- C#2.0中可空类型
- JDBC 2.0中的高级数据类型(转)
- .NET 2.0泛型集合类与.NET 1.1集合类的区别(二)
- 浏览.NET Framework 2.0 类型库中新增的常用功能
- Microsoft .NET Framework 1.1 和 2.0(测试版)兼容性
- .NET 2.0泛型集合类与.NET 1.1集合类的区别(二)
- junit中double类型的比较