冰火
考虑老鸟问题的菜鸟
从事ASP.NET in C#开发快一年了,今天才知道,C#中保留小数位数时没有使用截断的方式。
项目中要用到以截断的方式取小数点后两位,故写了以下方法:
/// <summary>
/// 将小数值按指定的小数位数截断
/// </summary>
/// <param name="d">要截断的小数</param>
/// <param name="s">小数位数,s大于等于0,小于等于28</param>
/// <returns></returns>
public static decimal ToFixed(decimal d, int s)
{
    decimal sp = Convert.ToDecimal(Math.Pow(10, s));

    if (d < 0)
        return Math.Truncate(d) + Math.Ceiling((d - Math.Truncate(d)) * sp) / sp;
    else
        return Math.Truncate(d) + Math.Floor((d - Math.Truncate(d)) * sp) / sp;
}
顺带提一下:
  1. double和decimal的ToString("#.##")方法使用的是四舍五入;
  2. 静态类System.Math下的Round(decimal d, int decimals)方法,舍入的方式使用的是“四舍六入五成双”;
  3. 静态类System.Math下的Round(decimal d, int decimals, MidpointRounding mode)的第三个参数是枚举参数,指示如何处理中间值(5);
静态类System.Math的方法:http://msdn.microsoft.com/zh-cn/library/system.math_methods(v=vs.80)
鸣谢:
这里要谢谢“尒寶..”反馈的Bug,详情参见1楼和3楼。
在最初的版本中,double与decimal的实现方式是一致的。
“请记住,浮点数只能近似于十进制数字,浮点数的精度决定了浮点数近似于十进制数字的精确程度。”摘自:http://msdn.microsoft.com/zh-cn/library/system.double.aspx
表达式((9.6-9)==0.6)的计算结果是false,因为(9.6-9)的计算结果是:0.59999999999999964;
还有表达式((109.6-100)==(9.6-9))的计算结果是false,有没有觉得很神奇。。。
因为double的这种特质,double的类似上面decimal的实现,结果可能就是错误的(有兴趣的同学可以试一下,把上面方法中的数据类型改为double,调用ToFixed(9.6, 1)结果为9.5),经过尝试,无法使用类似decimal的方式实现double的截断保留指定的小数位数。。。最后,我作出了一个非常艰难的决定,决定从博文删除double部分的实现!
decimal是用来表示十进制数的结构(体),它是精确的。。。
如果double的值介于decimal.MinValue和decimal.MaxValue之间,可以转换为decimal,然后调用上面的方法。。。好别扭啊啊啊!~!~!~
posted on 2012-05-17 23:51  剑过不留痕  阅读(3373)  评论(4编辑  收藏  举报