关于计算订单价格，转换后差一分钱的解决方法（浮点数精度问题）
2017-12-12 10:13
836 查看
今天在微信支付时，发现原本double?类型的订单总价sumprice 转换成double时，
在接受方法那边原本的18.63 变成了18.62（做了四舍五入）。为此百思不得其解，最
后考虑到了精度问题，得到解决。
即：
把double换成decimal，原因就是decimal的精度比double高。
如下图：
在接受方法那边原本的18.63 变成了18.62（做了四舍五入）。为此百思不得其解，最
后考虑到了精度问题，得到解决。
即：
把double换成decimal，原因就是decimal的精度比double高。
如下图：
内容来自用户分享和网络整理，不保证内容的准确性，如有侵权内容，可联系管理员处理 
相关文章推荐
- 关于js浮点精度计算不准确的问题及解决方法
- 关于浮点数计算时的精度问题
- 关于浮点数计算时的精度问题
- 经得起雷劈：关于double和int/long相互转换失去精度计算错误的问题
- 关于浮点数计算时的精度问题
- 关于2147217913 从 char 数据类型到 datetime 数据类型的转换导致 datetime 值越界 的问题解决方法
- 关于js中计算精度的问题解决办法
- JS 浮点运算精度解决办法 （把小数转换为整数进行计算【但是不能超过js的整数上限】）
- 关于2147217913 从 char 数据类型到 datetime 数据类型的转换导致 datetime 值越界 的问题解决方法
- 经得起雷劈：关于double和int/long相互转换失去精度计算错误的问题
- JS浮点计算精度问题分析与解决
- 关于datepart计算weekday时多一天引起的问题及解决方法
- 关于java中long类型的数据转换json传到前台时丢失精度问题的解决办法
- [ JAVA编程 ] double类型计算精度丢失问题及解决方法
- 关于datepart计算weekday时多一天引起的问题及解决方法
- 【Java】解决计算浮点数精度问题（BigDecimal）
- 关于EXP-00056: 遇到 ORACLE 错误 1455 ORA-01455: 转换列溢出整数数据类型 EXP-00000: 导出终止失败 的问题解决方法整理
- Java中浮点数精度问题的解决方法
- 关于数据库对象所有者非dbo时的可能造成的问题及解决方法
- 关于DIV被SELECT遮挡问题的解决方法