您的位置:首页 > 其它

关于float计算结果不精确问题

2016-09-21 23:00 232 查看
参考文章:Java Float类型 减法运算时精度丢失问题

今天参加面试,面试官问到一个问题,两个float相除怎么证明是否整除,我提出了几个方法,他提示我精度有可能会丢失,然后我就懵逼了,回来搜索了一下发现float和double都是用来科学计算的

float和double的底层实现是二进制的。十进制中的一个有限位数小数,转换成二进制就不一定是有限位数了,一旦位数超过的float和double型的位数宽度,就会出现“精度溢出”

然后提出相对其进行精确计算,需要先进行转换成为BigDecimal对象再进行计算。

add()加法运算

subtract() 减法运算

multiply() 乘法运算

divide() 除法运算
面试虽然炸了,但是学到了以前不知道的东西,算是有所收获吧
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: