
a= 3580 = 0.3580×104,
绝对误差限: 104-4=0.5, 相对误差限10-4
b= 0.00476 = 0.476×10-2
绝对误差限: 10-2-3= 0.5×10-5, 相对误差限10-3+1=0.00125
c=2958×10-2= 0.2958×102
绝对误差限: 102-4= 0.5×10-2, 相对误差限10-4+1=0.00025
d=0.1430×10-8
绝对误差限: 10-8-4=0.5×10-12, 相对误差限10-4+1=0.0005
2、已知是经过四舍五入后得到的近似值,问有几位有效数字?
解:
e(a+b)=e(a)+e(b)<0.00005+0.0005=0.00055 2位有效数字
e(a×b)=e(a)b+ae(b)=0.00005×0.978+1.2031×0.0005
≈0.000049+0.0006=0.000 2 有效数字
3、计算球的体积,为使其相对误差限为1%,测量半径R时,相对误差最大为多少?
解:
