数值分析 笔记

第一章

有效位数的计算方法

n是有效位数。
已知x*和误差限就可以算出n
在这里插入图片描述

例如：3.14 的m是0 ，误差限=0.001~=0.1x10^-2 所以误差线的次数为-2
n=0-(-2)+1=3

3.1416 m=0,误差线=0.00001，次数为-4，n=5.

posted @ 2022-11-17 23:04  林动  阅读(26)  评论(0)  编辑  收藏  举报
← → ↓ ↑