为什么“0.1+0.2=0.30000000000000004”?
2015-12-29 21:34
453 查看
百度知道http://zhidao.baidu.com/question/323461614.html 首先声明这不是bug,原因在与十进制到二进制的转换导致的精度问题! 其次这几乎出现在很多的编程语言中:C/C++,Java,Javascript中,准确的说:“使用了IEEE 754浮点数格式”来存储浮点类型(float 32,double 64)的任何编程语言都有这个问题! 简要介绍下IEEE 754浮点格式:它用科学记数法以底数为2的小数来表示浮点数。IEEE浮点数(共32位)用1位表示数字符号,用8为表示指数,用23为来表示尾数(即小数部分)。此处指数用移码存储,尾数则是原码(没有符号位)。之所以用移码是因为移码的负数的符号位为0,这可以保证浮点数0的所有位都是0。 双精度浮点数(64位),使用1为符号位、11位指数位、52位尾数位来表示。 因为科学记数法有很多种方式来表示给定的数字,所以要规范化浮点数,以便用底数为2并且小数点左边为1的小数来表示(注意是二进制的,所以只要不为0则一定有一位为1),按照需要调节指数就可以得到所需的数字。 例如:十进制的1.25 => 二进制的1.01 => 则存储时指数为0、尾数为1.01、符号位为0. (十进制转二进制) 回到开头,为什么“0.1+0.2=0.30000000000000004”?首先声明这是javascript语言计算的结果(注意Javascript的数字类型是以64位的IEEE 754格式存储的)。 正如同十进制无法精确表示1/3(0.33333…)一样,二进制也有无法精确表示的值。例如1/10。 64位浮点数情况下: 十进制0.1 => 二进制0.00011001100110011…(循环0011) =>尾数为1.1001100110011001100…1100(共52位,除了小数点左边的1),指数为-4(二进制移码为00000000010),符号位为0 => 存储为:0 00000000100 10011001100110011…11001 => 因为尾数最多52位,所以实际存储的值为0.00011001100110011001100110011001100110011001100110011001 十进制0.2 => 二进制0.0011001100110011…(循环0011) =>尾数为1.1001100110011001100…1100(共52位,除了小数点左边的1),指数为-3(二进制移码为00000000011),符号位为0 => 存储为:0 00000000011 10011001100110011…11001 因为尾数最多52位,所以实际存储的值为0.00110011001100110011001100110011001100110011001100110011 0.00011001100110011001100110011001100110011001100110011001 + 0.00110011001100110011001100110011001100110011001100110011 = 0.01001100110011001100110011001100110011001100110011001100 转换成10进制之后得到:0.30000000000000004!
相关文章推荐
- 添加自定义的View视图类(自定义一个进度条)
- Linux下查看、关闭及开启防火墙命令
- Excel公式-求最低价网站名字
- 数据结构(三)
- delphi 更改DBGrid 颜色技巧
- LeetCode Game of Life
- 【转】Geary's C
- 【参考文献--整理版】
- ❀自我唠嗑-UI-UIView
- js入门基础
- 第十六周--数据结构--项目一-- 插入排序之排序中输出每一趟的中间结果
- 对于bson和mongoDB的小记
- 【LVL1_6_c】【思考】X86 c语言结构体数据对齐的规则
- Ubuntu_ROS中应用kinect v2笔记
- EPC电子标签的一些基本知识
- Ubuntu_ROS中应用kinect v2笔记
- Ubuntu_ROS中应用kinect v2笔记
- 设计模式学习 之 策略模式
- 遥望布达拉——DAY11 海通兵站-觉巴村
- CSS3-html,样式与样式表的创建,选择器