摘要: 今天又被精度问题困扰,把最基本的东西忘了。 int n = 5; double cnt = 5.5; double sum = (n-cnt); 运算完后sum是 -0.5。不知道什么时候n转换成double类型。 结果搜索了下: 当一个低精度的数据类型和一个高精度的数据类型运算时,运算结果为高精度 阅读全文
posted @ 2016-12-27 20:19 卷珠帘 阅读(565) 评论(0) 推荐(1) 编辑