C#中浮點數運算函數Floor的運算誤差或可稱BUG.
摘要:
我都不敢相信,下面的計算結果居然會得不到我想要的110. double test = Math.Floor( 11.0f /0.1f); // 結果得到 109.0 test = Math.Round( 11.0f /0.1f -0.5f); // 得到的結果也是 109.0 // 以下的結果也是 109.0 float f1 = 11.0f, f2 = 0.1f;double m1 = (... 阅读全文
posted @ 2011-02-14 12:18 zlinke 阅读(476) 评论(0) 推荐(0) 编辑