2014年8月4日
MATLAB的eps，浮点数相对精度
摘要： MATLAB的eps函数，官方帮助文档是这么描述的：Floating-point relateive accuracy，也就是浮点数的相对精度。 大家都知道，在数学中，实数有无穷多个，数值可以无限大，精度也可以无限小。而在计算机中，因为表示数值的字长有限，不可能无限地表示一个数的有效数字。所以... 阅读全文
posted @ 2014-08-04 23:24 @hR 阅读(3921) 评论(0) 推荐(0) 编辑