您的位置:首页 > 编程语言 > C#

C#,double和decimal数据类型以截断的方式保留指定的小数位数

2012-05-17 23:51 656 查看
从事ASP.NET in C#开发快一年了,今天才知道,C#中保留小数位数时没有使用截断的方式。
项目中要用到以截断的方式取小数点后两位,故写了以下方法:


/// <summary>
/// 将小数值按指定的小数位数截断
/// </summary>
/// <param name="d">要截断的小数</param>
/// <param name="s">小数位数,s大于等于0,小于等于28</param>
/// <returns></returns>
public static decimal ToFixed(decimal d, int s)
{
decimal sp = Convert.ToDecimal(Math.Pow(10, s));

if (d < 0)
return Math.Truncate(d) + Math.Ceiling((d - Math.Truncate(d)) * sp) / sp;
else
return Math.Truncate(d) + Math.Floor((d - Math.Truncate(d)) * sp) / sp;
}


顺带提一下:


double和decimal的ToString("#.##")方法使用的是四舍五入;


静态类System.Math下的Round(decimal d, int decimals)方法,舍入的方式使用的是“四舍六入五成双”;


静态类System.Math下的Round(decimal d, int decimals, MidpointRounding mode)的第三个参数是枚举参数,指示如何处理中间值(5);


静态类System.Math的方法:http://msdn.microsoft.com/zh-cn/library/system.math_methods(v=vs.80)

鸣谢:
这里要谢谢“尒寶..”反馈的Bug,详情参见1楼和3楼。
在最初的版本中,double与decimal的实现方式是一致的。
“请记住,浮点数只能近似于十进制数字,浮点数的精度决定了浮点数近似于十进制数字的精确程度。”摘自:http://msdn.microsoft.com/zh-cn/library/system.double.aspx
表达式((9.6-9)==0.6)的计算结果是false,因为(9.6-9)的计算结果是:0.59999999999999964;
还有表达式((109.6-100)==(9.6-9))的计算结果是false,有没有觉得很神奇。。。
因为double的这种特质,double的类似上面decimal的实现,结果可能就是错误的(有兴趣的同学可以试一下,把上面方法中的数据类型改为double,调用ToFixed(9.6, 1)结果为9.5),经过尝试,无法使用类似decimal的方式实现double的截断保留指定的小数位数。。。最后,我作出了一个非常艰难的决定,决定从博文删除double部分的实现!
decimal是用来表示十进制数的结构(体),它是精确的。。。
如果double的值介于decimal.MinValue和decimal.MaxValue之间,可以转换为decimal,然后调用上面的方法。。。好别扭啊啊啊!~!~!~
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: