有效数字
下面有解答,这里读者可以先自己想想。
有效数字与绝对误差限的关系
即任何一种数字我们都可以转换成标准浮点数的形式。
上图的
就是上上图中浮点数里面的
次幂的
。我们尽量保留尽可能多的有效数字就是为了减小绝对误差。
例题:
回到一开始的例题:
上面这3个数字,对于
来说,他们的有效数字的位数分别是多少?
答案分别是:2位有效数字,3位有效数字,2位有效数字(因为
,所以
不算)。
有效数字与相对误差限的关系
就是写成标准浮点数之后的第一位有效数字,
就是有效数字的位数。
下面有解答,这里读者可以先自己想想。
即任何一种数字我们都可以转换成标准浮点数的形式。
上图的
就是上上图中浮点数里面的
次幂的
。我们尽量保留尽可能多的有效数字就是为了减小绝对误差。
例题:
回到一开始的例题:
上面这3个数字,对于
来说,他们的有效数字的位数分别是多少?
答案分别是:2位有效数字,3位有效数字,2位有效数字(因为
,所以
不算)。
就是写成标准浮点数之后的第一位有效数字,
就是有效数字的位数。