2011 年 7月 26 日随笔档案 - jameshappy

2011年7月26日

摘要：在判断浮点运算结果前对计算结果进行精度缩小，因为在精度缩小的过程总会自动四舍五入；(1.0-0.9).toFixed(digits) toFixed() 精度参数须在 0 与20 之间如 (1.0-0.9).toFixed(10)==0.1 ，结果为True 阅读全文

posted @ 2011-07-26 11:13 jameshappy 阅读(145) 评论(0) 推荐(0) 编辑