计算机运算出错的原因

由于前一节了解到将小数二进制数转换成十进制数的方法后,计算机运算出错的原因也就容易理解了。之所以容易出错的原因是“有一些十进制数的小数无法转换成二进制数。例如:十进制数是0.1,就无法用二进制数表示。

 

 上图是小数点后四位能够用二进制数表示的数值(二进制数是连续的,十进制数是非连贯的)。同时通过这个图我们也可以清晰的认识到即使使用代码清单3-1也无法得到正确结果的原因是:因为无法正确表示数值,最后都变成了近似值,计算机这个功能有限的机器设备,是无法处理无限循环的小数的。

posted @   濒临物种仙女  阅读(459)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· 无需6万激活码!GitHub神秘组织3小时极速复刻Manus,手把手教你使用OpenManus搭建本
· C#/.NET/.NET Core优秀项目和框架2025年2月简报
· Manus爆火,是硬核还是营销?
· 终于写完轮子一部分:tcp代理 了,记录一下
· 【杭电多校比赛记录】2025“钉耙编程”中国大学生算法设计春季联赛(1)
点击右上角即可分享
微信分享提示