浮点数精度的一点问题

 示例代码:

double j = 0.65f;

int i = 100 * j;

结果i等于64,与我们通常预计的结果不一致;原因是0.65f后面的f符号表示了0.65是一个单精度浮点数。调试发现实际值等于0.6499999,乘以100后转整数变成64.

 

测试环境:vs2010

 

 

posted @ 2011-11-08 19:29  Lunaa  阅读(118)  评论(0编辑  收藏  举报