摘要: 我们都知道,1.2-1.0=0.2,这是小学的小数点运算就学过了的 然而,公认比人脑计算能力更强的计算机在这个人人都会的小数计算上却总是‘计算错误’: 这却是为什么呢? 实际上,这是由计算机内部的存储限制所决定的。与现实世界已经习以为常的十进制计算不同,计算机内部往往是以二进制,即以0和1为基本单元 阅读全文
posted @ 2021-02-24 11:38 剑伟 阅读(345) 评论(0) 推荐(0) 编辑