C# double 精度丢失问题

.Net5

什么是精度丢失

当我们运行一下代码

            double s = 0.18 * 10;

            Console.WriteLine( s.ToString());

            double p= 4 / 2.0;

            Console.WriteLine( p);

会的到 如下结果

0.18 * 10 不等于18
这就是精度丢失

精度丢失的原因

系统是基于二进制的

double 64位 双精度 有效数字为53位 而 double--0.18 转为二进制 位数多余53 则多出的位数被丢弃 便出现了精度丢失

【注】 framework452 有优化 0.18*100=18

posted @   C余L小R鱼  阅读(1104)  评论(0编辑  收藏  举报
编辑推荐:
· AI与.NET技术实操系列:基于图像分类模型对图像进行分类
· go语言实现终端里的倒计时
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
阅读排行:
· 分享一个免费、快速、无限量使用的满血 DeepSeek R1 模型,支持深度思考和联网搜索!
· 基于 Docker 搭建 FRP 内网穿透开源项目(很简单哒)
· ollama系列01:轻松3步本地部署deepseek,普通电脑可用
· 25岁的心里话
· 按钮权限的设计及实现
点击右上角即可分享
微信分享提示