摘要: 精度问题产生原因 运行时精度问题在Python中(其他语言中也存在这个问题,这是计算机采用二进制导致的),有时候由于二进制和十进制之间对应问题会导致数值的精度问题,比如无法用有限个二进制位完整地表示0.1,因为0.1转化为二进制之后位一个无限循环小数, 这就导致了四舍五入会因为精度问题得到不符合预期 阅读全文
posted @ 2023-01-10 11:22 码上测 阅读(59) 评论(0) 推荐(0) 编辑