摘要: 由于二进制对浮点运算存在精度问题,所以一些浮点计算经常会出现以下情况: 结果: 我们期望的结果应该是0.1。为了解决这个问题,可以引入python的decimal库: 结果: getcontext().prec = 10把精度设置为10位,注意不是小数点后的位数,而是整个数字的位数。如果需要去掉后面 阅读全文
posted @ 2017-04-26 09:41 nullcc 阅读(3165) 评论(0) 推荐(0) 编辑