VC中处理小数精度
2010-10-22 13:46
169 查看
在VC中并没有像VB中一样提供处理小数精度的函数,为了完成设置精度,可以自己定义一个函数,下面是一个简单的实现方法:
//precision想要获取的精度,dNumber需要处理的数值 double Round(int precision,double dNumber) { for(int i=0;i<precision;i++) dNumber*=10; dNumber=int(dNumber+0.5); for(int i=0;i<precision;i++) dNumber/=10; return dNumber; }
相关文章推荐
- 对大数精度的处理(2)_大数乘小数
- [C] 跨平台使用Intrinsic函数范例1——使用SSE、AVX指令集 处理 单精度浮点数组求和(支持vc、gcc,兼容Windows、Linux、Mac)
- [C] 跨平台使用Intrinsic函数范例1——使用SSE、AVX指令集 处理 单精度浮点数组求和(支持vc、gcc,兼容Windows、Linux、Mac)
- js 对小数加法精度处理示例说明
- python模块-decimal小数精度处理-学习笔记28
- pandas 小数位数 精度的处理
- javascript中可处理的浮点数的最高精度(和小数的一些小特性)
- java中小数的处理:高精度运算用bigDecimal类,精度保留方法,即舍入方式的指定
- 在业务系统中处理小数精度,四舍五入,全舍弃,全进位的方法
- [C] 跨平台使用Intrinsic函数范例1——使用SSE、AVX指令集 处理 单精度浮点数组求和(支持vc、gcc,兼容Windows、Linux、Mac)
- java中小数的处理:高精度运算用bigDecimal类,精度保留方法,即舍入方式的指定
- js 对小数加法精度处理示例说明
- 跨平台使用Intrinsic函数范例1——使用SSE、AVX指令集 处理 单精度浮点数组求和(支持vc、gcc,兼容Windows、Linux、Mac)
- [C] 跨平台使用Intrinsic函数范例1——使用SSE、AVX指令集 处理 单精度浮点数组求和(支持vc、gcc,兼容Windows、Linux、Mac)
- javascript中可处理的浮点数的最高精度(和小数的一些小特性)
- [C] 跨平台使用Intrinsic函数范例1——使用SSE、AVX指令集 处理 单精度浮点数组求和(支持vc、gcc,兼容Windows、Linux、Mac)
- js 对小数加法精度处理
- Js 对小数的处理(科学计数法 , 显示精度)
- Js 对小数的处理(科学计数法 , 显示精度)
- pandas 小数位数 精度的处理方法