关于浮点误差的一些东西
1.貌似累加会因误差,得到的数字逐渐减小
float f = 0.1; float sum = 0; for( i=0; i<4000000; i++) { sum += f; }
理论上得到的sum应该是40万,但是计算得到的结果是384524.781250!!
float f = 0.1; float sum = 0; for( int i=0; i<2000; i++) { float tmp_sum =0; for (int j = 0;j<2000;j++) tmp_sum+=f; sum += tmp_sum; } 这样精度会高很多
原因在于一个特别大的数加一个特别小的数会产生较大的误差,而差不多的数相加误差较小。
用*100后来再/100的方式可以减少误差
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 10年+ .NET Coder 心语 ── 封装的思维:从隐藏、稳定开始理解其本质意义
· 地球OL攻略 —— 某应届生求职总结
· 提示词工程——AI应用必不可少的技术
· Open-Sora 2.0 重磅开源!
· 周边上新:园子的第一款马克杯温暖上架