2016 年 8月 17 日随笔档案 - qqhfeng16

2016年8月17日

python默认的是17位小数的精度，但是这里有一个问题，就是当我们的计算需要使用更高的精度（超过17位小数）的时候该怎么做呢？

摘要： 1. 使用格式化(不推荐) 1 2 3 >>> a = "%.30f" % (1/3) >>> a '0.333333333333333314829616256247' 可以显示，但是不准确，后面的数字往往没有意义。 2. 高精度使用decimal模块，配合getcontext 1 2 3 4 5 6 7 8 9 10 11... 阅读全文

posted @ 2016-08-17 23:43 qqhfeng16 阅读(3377) 评论(0) 推荐(0) 编辑