有效數(shù)字、數(shù)據(jù)處理在實(shí)驗(yàn)室測試中的應(yīng)用

■梁玉蘭

〔石河子纖維檢驗(yàn)所，新疆石河子832000〕

有效數(shù)字、數(shù)據(jù)處理在實(shí)驗(yàn)室測試中的應(yīng)用

■梁玉蘭

〔石河子纖維檢驗(yàn)所，新疆石河子832000〕

實(shí)驗(yàn)室提供的檢測數(shù)據(jù)或檢測結(jié)果，可以為科學(xué)研究、生產(chǎn)活動(dòng)、商品交易、產(chǎn)品質(zhì)量技術(shù)判斷和糾紛仲裁等方面提供依據(jù)。為保證實(shí)驗(yàn)室所出具的數(shù)據(jù)或提供結(jié)果的可信度，就必須要考核數(shù)據(jù)提供者的資格條件、技術(shù)能力。

一、有效數(shù)字的使用及運(yùn)算

在實(shí)際測試工作中，不僅要準(zhǔn)確地進(jìn)行測量，還應(yīng)當(dāng)正確地進(jìn)行記錄和計(jì)算，當(dāng)記錄表達(dá)數(shù)據(jù)結(jié)果時(shí)，不僅反映測量值的大小，還反映了測量值的準(zhǔn)確程度。

有效數(shù)字是指實(shí)際上能測量到的數(shù)字，包括全部準(zhǔn)確數(shù)字和一位不確定的可疑數(shù)字。有效數(shù)字保留的位數(shù)與測量方法及儀器的準(zhǔn)確度有關(guān)。

（一）記錄測量數(shù)據(jù)

記錄測量數(shù)據(jù)時(shí)，允許保留一位可疑數(shù)字，即不允許增加位數(shù)，也不應(yīng)該減少位數(shù)。

例如：3.800 0g是五位有效數(shù)字，質(zhì)量為3.8000g，誤差為±0.0001g，人們一看就知道是天平稱量，

記3.80g誤差為±0.01g就知道是臺(tái)秤稱量，

2002是四位有效數(shù)字，

0.011 ‘0.0’不是有效數(shù)字，它們是定位的。

（二）有效數(shù)字的修約

在正常情況下，測量數(shù)據(jù)本身并不是最后結(jié)果，通過一系列的運(yùn)算后才能獲得。在計(jì)算中會(huì)出現(xiàn)準(zhǔn)確度不同即有效數(shù)字位數(shù)不同的數(shù)據(jù)，在確定了有效數(shù)字后將多余的數(shù)字進(jìn)行修約，這一過程稱為數(shù)字修約，也稱為數(shù)的化整或數(shù)的湊整。為了簡單計(jì)算準(zhǔn)確測量結(jié)果，必須對有關(guān)數(shù)字進(jìn)行修約。按GB 8170-2008《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》制定各類測試數(shù)據(jù)的處理原則，并對數(shù)據(jù)計(jì)算做出具體規(guī)定。

四舍六入五考慮，即當(dāng)尾數(shù)≤4時(shí)舍去；尾數(shù)≥6時(shí)進(jìn)位；當(dāng)尾數(shù)為5時(shí)，則應(yīng)視保留的末位數(shù)是奇數(shù)還是偶數(shù)，5前為偶數(shù)應(yīng)將5舍去，5前為奇數(shù)則將5進(jìn)位。

例如：28.2645取3位有效數(shù)字時(shí)，則有效數(shù)字為28.3，

28.350 、28.250、28.050取3位有效數(shù)字時(shí)分別為：28.4、28.2、28.0，

28.175 、28.165取4位有效數(shù)字時(shí)為：28.18、28.16，

后面的數(shù)字不全是零，無論前面數(shù)字是偶數(shù)還是奇數(shù)皆進(jìn)1。

如：28.2501取3位有效數(shù)字時(shí)為28.3，

若被舍去的數(shù)字包括幾位數(shù)字時(shí)，不得對該數(shù)進(jìn)行連續(xù)修約，

28.154546 取4位有效數(shù)字時(shí)為28.15而不是28.16。

（三）有效數(shù)字運(yùn)算

1.加減運(yùn)算，以參加運(yùn)算的各數(shù)據(jù)中絕對誤差最大（即小數(shù)點(diǎn)后位數(shù)最少）的數(shù)據(jù)為標(biāo)準(zhǔn)，決定了結(jié)果的有效位數(shù)。

12.35+0.0056+7.8903=12.35+0.01+7.89=20.25

2.乘除運(yùn)算，以參加運(yùn)算的各數(shù)據(jù)中相對誤差最大（即有效數(shù)字位數(shù)最少）的數(shù)據(jù)為標(biāo)準(zhǔn)，決定結(jié)果的有效位數(shù)。

0.0121×25.64×1.05784=0.0121×25.6×1.06=0.328

3.計(jì)算器的運(yùn)用，勿照抄計(jì)算器上的顯示數(shù)字，根據(jù)有效數(shù)字修約和計(jì)算法則來對計(jì)算結(jié)果的數(shù)字?jǐn)?shù)進(jìn)行舍取。

二、數(shù)據(jù)處理

（一）原始數(shù)據(jù)的有效數(shù)字應(yīng)與測量儀精度一致

根據(jù)試驗(yàn)方法標(biāo)準(zhǔn)中規(guī)定的進(jìn)行試驗(yàn)，確認(rèn)實(shí)驗(yàn)室的條件、儀器、設(shè)備測量精度相一致。

如：用分析天平稱量，準(zhǔn)確到±0.0001g，

用臺(tái)秤稱重，準(zhǔn)確到0.1或0.01g。

（二）原始數(shù)據(jù)必須進(jìn)行系統(tǒng)誤差的校正

1.校正測量儀器，如天平校驗(yàn)、儀器檢定等。

2.標(biāo)準(zhǔn)方法校對所有的測量儀器重復(fù)試驗(yàn)，進(jìn)行校正。

3.在相同條件下，用所選的測量儀器測標(biāo)準(zhǔn)樣品，與標(biāo)準(zhǔn)值比較，進(jìn)行校正。

（三）確認(rèn)被校正過的，才能采用，才是可信數(shù)據(jù)

為了保證實(shí)驗(yàn)室出具的報(bào)告/證書的測試數(shù)據(jù)可靠性和可比性，應(yīng)必須滿足實(shí)驗(yàn)室認(rèn)可準(zhǔn)則的要求，加大力量培訓(xùn)測試人員，充實(shí)自己的技術(shù)能力。對原始記錄中所需處理的數(shù)據(jù)，按GB8170-2008《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》制定各類測試數(shù)據(jù)的處理原則，并對數(shù)據(jù)計(jì)算驗(yàn)證工作做出規(guī)定。切實(shí)確保實(shí)驗(yàn)室能夠做到“以公正的行為、科學(xué)的手段、準(zhǔn)確的結(jié)果”來為社會(huì)提供滿意的和有效的服務(wù)，這也是實(shí)驗(yàn)室的客戶對所使用的實(shí)驗(yàn)室基本要求?！?/p>