0.29*100的问题
写算法过程中,需要取0.29的小数位数字:
用:
int n = (int)(0.29*100) % 10;
但是算出来的n是8,很奇怪
最后通过:
int n = (int)((0.29*1000)/10) % 10;
才得到正确结果;
上网搜了一下问题,发现和计算机存储数据原理有关,等后面有时间研究一下;
写算法过程中,需要取0.29的小数位数字:
用:
int n = (int)(0.29*100) % 10;
但是算出来的n是8,很奇怪
最后通过:
int n = (int)((0.29*1000)/10) % 10;
才得到正确结果;
上网搜了一下问题,发现和计算机存储数据原理有关,等后面有时间研究一下;