随笔 - 129  文章 - 3  评论 - 32  阅读 - 15万 

今天,某部门的excel的数值计算,总是出现错误。如下图

,我们的46那一栏是有前面8*6得出来的,但是结果却显示46,明明应该是48才对,然后再往上追,8是有前面的337-329得出来的,337是有3269*10.3%得出来的,这就是重点所在,就是因为这个10.3%导致的数值计算精确度下降,四舍五入的多了,最后得出了8*6=46的恐怖结果,要想解决这个问题,解决办法就是,提高精确度,

打开,文件-》选项-》高级-》将精度设为所显示的精度

如下图

 

将这个勾调上,然后一路确定就OK了

如下图所示

出现了正确的计算结果

 

posted on   孤独斗士  阅读(2439)  评论(0编辑  收藏  举报
编辑推荐:
· 开发者必知的日志记录最佳实践
· SQL Server 2025 AI相关能力初探
· Linux系列:如何用 C#调用 C方法造成内存泄露
· AI与.NET技术实操系列(二):开始使用ML.NET
· 记一次.NET内存居高不下排查解决与启示
阅读排行:
· Manus重磅发布:全球首款通用AI代理技术深度解析与实战指南
· 被坑几百块钱后,我竟然真的恢复了删除的微信聊天记录!
· 没有Manus邀请码?试试免邀请码的MGX或者开源的OpenManus吧
· 园子的第一款AI主题卫衣上架——"HELLO! HOW CAN I ASSIST YOU TODAY
· 【自荐】一款简洁、开源的在线白板工具 Drawnix
点击右上角即可分享
微信分享提示