编程之美 精确表达浮点数
2013-12-19 12:13
169 查看
假设浮点数为 X 的表示形式为
X = 0.a1a2...an (b1b2...bm)
那么 10^N * X = a1a2...an.(b1b2...bm)
同时, 令 Y = 0.(b1b2...bm)
那么 Y*10^M = b1b2...bm(b1b2...bm)
得到等式 Y*10^M - b1b2...bm = Y, 可以解出 Y
将 Y 带入 10^N*X 可解出 X
X = 0.a1a2...an (b1b2...bm)
那么 10^N * X = a1a2...an.(b1b2...bm)
同时, 令 Y = 0.(b1b2...bm)
那么 Y*10^M = b1b2...bm(b1b2...bm)
得到等式 Y*10^M - b1b2...bm = Y, 可以解出 Y
将 Y 带入 10^N*X 可解出 X
相关文章推荐
- 编程之美 2.6 精确表达浮点数
- 编程之美-2.6、精确表达浮点数
- 【编程之美】2.6 精确表达浮点数
- [编程之美] 2.6 精确表达浮点数
- [编程之美] PSet2.6 精确表达浮点数
- 读书笔记之编程之美 – 2.6 精确表达浮点数
- 编程之美--精确表达浮点数
- 《编程之美》学而思-精确表达浮点数
- 精确表达浮点数
- 编程之美--2.6 精确表达浮点数
- 编程之美-2.6-精确表达浮点数
- 精确表达浮点数
- 编程之美 set 2 精确表达浮点数
- 编程之美2.6精确表达浮点数Java版
- 浮点数(有限浮点数、无限循环浮点数)的精确表达
- 每日一题(78) - 精确表达浮点数
- 编程之美:精确表达浮点数
- 2.6 精确表达浮点数
- 精确表达浮点数 -- 编程之美
- 【编程之美】2.6精确表达浮点数