flotat浮点数类型的误差问题,float a=0.1; 2-a*a*100,和int(2-a*a*100); float的误差问题,

来在于洛谷的《深入浅出程序设计竞赛》(基础篇)

1
2
3
4
5
6
7
8
9
#include <stdio.h>
 
int main(){
    float a=0.1;
    printf("%f %f\n",a,a*a);
    printf("%d\n",int(2-a*a*100));
    printf("%.10f",2-a*a*100);
    return 0;
}

  执行结果

   原因是这样的,float是浮点数,在执行界面出现的6位小数,是float的有效位,但是float表示的范围不只是6位小数,所以直接输出a的值的时候是四舍五入6位小数没有问题,当进行一个乘法复合运算时,就像int(2-a*a*100),后面的不准确位就可能会影响数据了,造成乘积大于1,使得复合运算的结果是恰好小于1的,所以进行强制类型转换的时候就出现向下取整变成0的问题了。

---

同样的情况还有这个。

 这个原因是两个整型做除法,得到的商也是整型,是先得到一个整型的商,再对商进行强制类型转换,但是0的浮点数还是0.而不是跟设想的一样。

 

posted @   Azzero  阅读(85)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· winform 绘制太阳,地球,月球 运作规律
· 震惊!C++程序真的从main开始吗?99%的程序员都答错了
· AI与.NET技术实操系列(五):向量存储与相似性搜索在 .NET 中的实现
· 【硬核科普】Trae如何「偷看」你的代码?零基础破解AI编程运行原理
· 超详细:普通电脑也行Windows部署deepseek R1训练数据并当服务器共享给他人
点击右上角即可分享
微信分享提示