1绪论-课件-11

按所给数据求出该水池的容积为：

V*=V(L*,W*,H*)=L*W*H*=50?25?20=2500 （米3）

*?V*?e?V??e?L*???V*e?W*???V*e?H*?L?W?H??W*H*e?L*??L*H*e?W*??LW**e?H*????V*???V*?L??L*???V**?V*?W??W???H??H*??W*H*??L*??L*H*??W*??LW**??H*??25?20?0.01?50?20?0.01?50?20?0.01?27.50?米3???*?r?V????V*V*?27.502500?0.11%

故有绝对和相对误差限为27.50米3

和0.11%。

29

4. 计算机的舍入误差

计算机对x的舍入绝对误差和舍入相对误差有如下估计 1）

e?fl?x???x?fl(x)?0.5??x?fl(x)xc?t

2）er?fl?x???0.5??c?t1?t??0.5?? 0.1??c由此可知，计算机对任何实数的舍入相对误

差限与实数本身无关，只与计算机字长t有

1?t0.5??关，其值为。

因此常称eps?0.5??

30

1?t为计算机精度。

1.4有效数字

科学计算中常用有效数字来估计和处理误差，有效数字易算且与误差有密切关系。

*

定义1.5 若近似数x的误差限是其

*

某一位上数字的半个单位，就说近似数x准确到该位；由该位自右向左数到x* 的第一个非零数字若有n位，就称近似数x*有n位有效数字。

31

有效数字的数学描述 设

*mx??0.a1a2???ak?10

a1?0,al??0,1,2,???,9?，m为整数，k为不小于正整数n的整数。若有关系式

e?x*??x*?x?0.5?10m?n(1.4)

则称近似数x*有n位有效数字，此时x*有n

m?0.aa???a?10位有效数字的值可取为。 12n

32