摘要:
最近在做项目时有个地方用到了概率,要计算概率自然会用到除法。我这边概率的算法是这样的,从0到10000获取个随机数,随机值除以10000就是概率了,但是一时大意没注意细节,结果直接除了,如下: Random rdo = new Random(); int intNum = rdo.Next(0,10000); float result = intNum / 10000; 如果intNum是845,那么理论上应该得到的是0.0845。可是结果却让我大跌眼镜,不管怎么算,结果都是0.0,如果不管怎么随机的话都是0.0,那就失去意义了。于是百度去,原来C#的除法的精度是根据被除数来决定的,这里的被除 阅读全文
2011年7月8日 #