浮点数运算的机器误差分析
摘要：
用一个浮点数相加的例子来演示计算机在计算时所产生的误差。 在Python中，用0.2+0.4 会得到0.6000000000000001。 浮点数简介 浮点数的表示方法：目前流行的浮点数标准是IEEE754。用64个bit来表示双精度。 首位为符号位s，0代表正，1代表负。 接下来的11位代表指数， 阅读全文
posted @ 2019-03-25 23:46 谢小顿 阅读(2719) 评论(0) 推荐(0) 编辑
