計量資料中有效數(shù)字的確定

·消息·

計量資料中有效數(shù)字的確定

有效數(shù)字是在測量中所能得到的有實際意義的數(shù)字。一個由有效數(shù)字構(gòu)成的數(shù)值，只有末位數(shù)字是估計數(shù)字，其余各位數(shù)字都是準(zhǔn)確的。有效數(shù)字與測量儀器的靈敏度有關(guān)。以天平稱重為例，如果天平的靈敏度為0.1 mg，那么稱重結(jié)果12.34 mg中，12.3 mg為準(zhǔn)確數(shù)字，0.04 mg為估計數(shù)字，2項合在一起組成有效數(shù)字。均數(shù)±標(biāo)準(zhǔn)差(±s)的位數(shù)，除了決定于測量儀器的精密度外，還決于樣本內(nèi)個體的變異，一般按標(biāo)準(zhǔn)差的三分之一來確定。例如:3.61±0.42，標(biāo)準(zhǔn)差的三分之一為0.14，標(biāo)準(zhǔn)差波動在小數(shù)點后第1位上，故應(yīng)取到小數(shù)點后第1位，即3.6±0.4，過多的位數(shù)并無意義。但是在一系列數(shù)值并列時，小數(shù)點后的位數(shù)應(yīng)一致。例如在3.61±0.42、5.86±0.73、2.34±0.15這樣一組數(shù)據(jù)中，第3組數(shù)據(jù)標(biāo)準(zhǔn)差0.15的三分之一為0.05，在小數(shù)點后第2位，則這組數(shù)據(jù)的有效位數(shù)均取到第2位。

本刊編輯部