关于float计算结果不精确问题
2016-09-21 23:00
232 查看
参考文章:Java Float类型 减法运算时精度丢失问题
今天参加面试,面试官问到一个问题,两个float相除怎么证明是否整除,我提出了几个方法,他提示我精度有可能会丢失,然后我就懵逼了,回来搜索了一下发现float和double都是用来科学计算的
float和double的底层实现是二进制的。十进制中的一个有限位数小数,转换成二进制就不一定是有限位数了,一旦位数超过的float和double型的位数宽度,就会出现“精度溢出”
然后提出相对其进行精确计算,需要先进行转换成为BigDecimal对象再进行计算。
add()加法运算
subtract() 减法运算
multiply() 乘法运算
divide() 除法运算
面试虽然炸了,但是学到了以前不知道的东西,算是有所收获吧
今天参加面试,面试官问到一个问题,两个float相除怎么证明是否整除,我提出了几个方法,他提示我精度有可能会丢失,然后我就懵逼了,回来搜索了一下发现float和double都是用来科学计算的
float和double的底层实现是二进制的。十进制中的一个有限位数小数,转换成二进制就不一定是有限位数了,一旦位数超过的float和double型的位数宽度,就会出现“精度溢出”
然后提出相对其进行精确计算,需要先进行转换成为BigDecimal对象再进行计算。
add()加法运算
subtract() 减法运算
multiply() 乘法运算
divide() 除法运算
面试虽然炸了,但是学到了以前不知道的东西,算是有所收获吧
相关文章推荐
- Java浮点数float和double精确计算的精度误差问题总结
- Java浮点数float和double精确计算的精度误差问题总结
- Java(其实是计算机系统的通病,而不单单是Java的问题,C、C++等任何语言都有这个问题)关于小数的运算结果,不正确不精确,原因剖析,及解决办法
- C#计算float类型数据求和不精确问题
- Java浮点数float,bigdecimal和double精确计算的精度误差问题总结
- 关于gdi+精确计算graphics.DrawString所需要的宽度问题
- 关于BigDecimal精度影响计算结果的问题
- Java中用浮点型数据Float和Double进行精确计算时的精度问题
- 详解iOS之关于double/float数据计算精度问题
- 关于float、double结果精度的问题
- 关于java不能精确计算的问题
- Java浮点数float,bigdecimal和double精确计算的精度误差问题总结
- 关于Java中精确计算的问题
- Java中用浮点型数据Float和Double进行精确计算时的精度问题
- Java浮点数float,bigdecimal和double精确计算的精度误差问题总结
- Java浮点数float和double精确计算的精度误差问题总结
- Java中浮点型数据Float和Double进行精确计算的问题
- Java浮点数float和double精确计算的精度误差问题总结
- 14、Java中用浮点型数据Float和Double进行精确计算时的精度问题
- Java中用浮点型数据Float和Double进行精确计算时的精度问题