SUM()求和时的精度问题,跟数据表字段定义有关
2006-08-31 11:22
344 查看
SUM()求和时的精度问题,跟数据表字段定义有关
sum以最精确的 expression 数据类型返回所有表达式值的和
返回结果:
money 精确到货币单位的千分之十
float(n) n在1-14,精度7位，25-53，精度15位
decimal 精度38位
int 精度为整数位数
<%=conn.execute("Select SUM(TotalPrice) as List1 from OrderList where TranslateStatus=1")("List1")%>
语句查询的结果居然会返回很长的数字(5700.25001144409 )11位小数
查找数据表中对应的 TOTALPRICE字段定义.单精度.精确到2位小数.
总的数据没有很大的差异.
sum以最精确的 expression 数据类型返回所有表达式值的和
返回结果:
money 精确到货币单位的千分之十
float(n) n在1-14,精度7位，25-53，精度15位
decimal 精度38位
int 精度为整数位数
<%=conn.execute("Select SUM(TotalPrice) as List1 from OrderList where TranslateStatus=1")("List1")%>
语句查询的结果居然会返回很长的数字(5700.25001144409 )11位小数
查找数据表中对应的 TOTALPRICE字段定义.单精度.精确到2位小数.
总的数据没有很大的差异.
内容来自用户分享和网络整理，不保证内容的准确性，如有侵权内容，可联系管理员处理 
相关文章推荐
- SUM()求和时的精度问题,跟数据表字段定义有关
- 关于k3中自定义字段的数据计算精度的问题
- MyBatis学习-----解决在"数据表中字段与自己定义的属性类的属性字段不相同“的情况下的问题
- MYSQL中有关SUM字段按条件统计使用IF函数(case)问题
- MYSQL中有关SUM字段按条件统计使用IF函数(case)问题
- MYSQL中有关SUM字段按条件统计使用IF函数(case)问题
- Hibernate中有关重复定义字段的问题
- 使用notepad++删除webrtc中的所有相关的vcxproj文件中有关ninja属性字段的定义
- ext grid 显示数据精度丢失问题
- java中的数据精度计算问题
- 有关C语言的数据统计和编程问题 高手请进
- mysql中修改数据库，数据库表，数据库表字段的编码问题
- 解决数据多字段复杂排序的问题
- jdbcTemplate查询数据库金额字段的精度问题：ResultSet中取值
- 有关数据类型的范围问题！！
- 关于修改表字段数据类型的问题（ORA-22859: 无效的列修改 ）
- 请问dw字段datetime型输入异常有关问题
- LeetCode 求和问题总结(2sum,3sum,ksum)
- hibernate添加数据,默认字段为null的问题解决
- 导入Excel表里的数据时产生【定义了过多字段】，但有时又是成功的