数值分析笔记(2)——有效数字

2021-10-15 16:52:54 浏览数 (1)

有效数字

下面有解答,这里读者可以先自己想想。

有效数字与绝对误差限的关系

即任何一种数字我们都可以转换成标准浮点数的形式。

上图的

m

就是上上图中浮点数里面的

m

次幂的

m

。我们尽量保留尽可能多的有效数字就是为了减小绝对误差。

例题:

回到一开始的例题:

上面这3个数字,对于

pi

来说,他们的有效数字的位数分别是多少?

答案分别是:2位有效数字,3位有效数字,2位有效数字(因为

pi = 3.14159 dots

,所以

5

不算)。

有效数字与相对误差限的关系

a_1

就是写成标准浮点数之后的第一位有效数字,

n

就是有效数字的位数。

0 人点赞