flotat浮点数类型的误差问题,float a=0.1; 2-a*a*100,和int(2-a*a*100); float的误差问题,
来在于洛谷的《深入浅出程序设计竞赛》(基础篇)
1 2 3 4 5 6 7 8 9 | #include <stdio.h> int main(){ float a=0.1; printf ( "%f %f\n" ,a,a*a); printf ( "%d\n" , int (2-a*a*100)); printf ( "%.10f" ,2-a*a*100); return 0; } |
执行结果
原因是这样的,float是浮点数,在执行界面出现的6位小数,是float的有效位,但是float表示的范围不只是6位小数,所以直接输出a的值的时候是四舍五入6位小数没有问题,当进行一个乘法复合运算时,就像int(2-a*a*100),后面的不准确位就可能会影响数据了,造成乘积大于1,使得复合运算的结果是恰好小于1的,所以进行强制类型转换的时候就出现向下取整变成0的问题了。
---
同样的情况还有这个。
这个原因是两个整型做除法,得到的商也是整型,是先得到一个整型的商,再对商进行强制类型转换,但是0的浮点数还是0.而不是跟设想的一样。
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· winform 绘制太阳,地球,月球 运作规律
· 震惊!C++程序真的从main开始吗?99%的程序员都答错了
· AI与.NET技术实操系列(五):向量存储与相似性搜索在 .NET 中的实现
· 【硬核科普】Trae如何「偷看」你的代码?零基础破解AI编程运行原理
· 超详细:普通电脑也行Windows部署deepseek R1训练数据并当服务器共享给他人