實(shí)驗(yàn)記錄中有效數(shù)字問題探討

北京中醫(yī)藥大學(xué)（100102）孫毅坤

北京市藥品檢驗(yàn)所（100035）方穎 付欣彤 杜小偉

實(shí)驗(yàn)原始記錄是指在科學(xué)研究過程中，應(yīng)用實(shí)驗(yàn)、觀察、調(diào)查或資料分析等方法，根據(jù)實(shí)際情況直接記錄或統(tǒng)計(jì)形成的各種資料、文字、圖表、聲像等原始資料。作為實(shí)驗(yàn)完成過程的具體記載，實(shí)驗(yàn)記錄應(yīng)真實(shí)地反映整個(gè)實(shí)驗(yàn)的歷史過程。因此，實(shí)驗(yàn)記錄應(yīng)當(dāng)真實(shí)、及時(shí)、準(zhǔn)確、完整，每項(xiàng)實(shí)驗(yàn)結(jié)束應(yīng)進(jìn)行數(shù)據(jù)處理和分析，并有明確的文字小結(jié)。本文針對(duì)常規(guī)實(shí)驗(yàn)中有效數(shù)字的確定及數(shù)據(jù)處理問題進(jìn)行分析探討。

1 有效數(shù)字概念

有效數(shù)字是指在測(cè)量工作中能得到的有實(shí)際意義的數(shù)值，只允許其最后一位數(shù)字是欠準(zhǔn)數(shù)字，這種由可靠數(shù)字和最后一位欠準(zhǔn)數(shù)字組成的數(shù)值，即為有效數(shù)字。如從滴定管上檢讀的滴定體積18.25ml，百分位上的5就為欠準(zhǔn)數(shù)字，是實(shí)驗(yàn)人員估計(jì)得到的，5前面的數(shù)字為滴定管上的刻度數(shù)，為可靠數(shù)字，故這個(gè)數(shù)值為4位有效數(shù)字。

需要注意的是一些非連續(xù)型數(shù)值，如個(gè)數(shù)、分?jǐn)?shù)、倍數(shù)、名義濃度和標(biāo)示量等是沒有欠準(zhǔn)數(shù)字的, 其有位數(shù)可視為無限多位。如規(guī)格項(xiàng)下的“0.3g”中的“0.3”為標(biāo)示量，在計(jì)算中，其有效位數(shù)不受限制，也可視為與其他數(shù)值的最少有效位數(shù)相同。

2 實(shí)驗(yàn)記錄中的數(shù)值修約

實(shí)驗(yàn)中記錄下來的測(cè)定數(shù)據(jù)，應(yīng)該包括兩部分：可靠數(shù)字和一位欠準(zhǔn)數(shù)字。所有數(shù)值在計(jì)算之前要進(jìn)行有效數(shù)字的修約， 最終結(jié)果應(yīng)與標(biāo)準(zhǔn)規(guī)定限度有效數(shù)字的位數(shù)一致。若結(jié)果要帶入下步計(jì)算, 可多保留一位有效數(shù)字。數(shù)值修約是指對(duì)擬修約數(shù)值中超出需要保留位數(shù)的數(shù)字按進(jìn)舍規(guī)則進(jìn)行的進(jìn)舍，其原則為“四舍六入五留雙”。

3 實(shí)驗(yàn)記錄中的數(shù)據(jù)處理

3.1 實(shí)驗(yàn)中的稱重（量?。┮蟆熬芊Q定” 時(shí)，應(yīng)準(zhǔn)確至所取重量的千分之一。如當(dāng)取樣量大于100mg時(shí), 應(yīng)選用感量為0.1mg（萬分之一）的分析天平；當(dāng)取樣量為100～10mg時(shí), 應(yīng)選用感量為0.01mg （十萬分之一）的分析天平；當(dāng)取樣量小于 10mg 時(shí), 應(yīng)選用感量為0.001mg（百萬分之一）的分析天平, 即有效數(shù)字的位數(shù)為4位或4位以上。要求“稱定”時(shí), 應(yīng)準(zhǔn)確至所取重量的百分之一，即有效數(shù)字的位數(shù)為3位或3位以上。要求“精密量取”時(shí), 應(yīng)采用移液管量取，數(shù)據(jù)保留小數(shù)點(diǎn)后2位，即3位有效數(shù)字以上；“量取”則采用量筒量取，數(shù)據(jù)保留小數(shù)點(diǎn)后1位，即2位有效數(shù)字以上。

3.2 甲苯法測(cè)定樣品中的水分 固體樣品粉碎混勻后，精密稱取適量，約相當(dāng)于含水量1～4ml，測(cè)定完成后直接檢讀水量，精確到小數(shù)點(diǎn)后2位，保持3位有效數(shù)字。 列式運(yùn)算時(shí)，因?yàn)樗渴?位有效數(shù)字，樣品重量只能取4位有效數(shù)字。常見錯(cuò)誤為: 取樣量不夠，導(dǎo)致水量不足1ml；列式運(yùn)算時(shí)，樣品量取了5位以上有效數(shù)字。

3.3 揮發(fā)油測(cè)定法 固體樣品粉碎混勻后，取約相當(dāng)于含揮發(fā)油0.5～1ml的樣品，稱定重量（準(zhǔn)確至0.01g）。測(cè)定完成后直接檢讀油量，精確到小數(shù)點(diǎn)后2位，保持2～3位有效數(shù)字。列式運(yùn)算時(shí)，因?yàn)橛土渴?～3位有效數(shù)字，樣品重量只能取3～4 位有效數(shù)字。

常見錯(cuò)誤為: 取樣量不夠，導(dǎo)致油量不足0.5ml；列式運(yùn)算時(shí)，樣品量取了5 位以上有效數(shù)字。

3.4 回歸方程中a、b和r的有效數(shù)字 中藥實(shí)驗(yàn)中常常采用吸光度法測(cè)定含量，需要繪制標(biāo)準(zhǔn)曲線：A=b·C+a，并求出直線的相關(guān)系數(shù)r。a、b的有效數(shù)字由吸光度A和濃度C決定，濃度C一般為4位有效數(shù)字。吸光度A有的儀器為3位有效數(shù)字，有的儀器為4位有效數(shù)字，所以，b同吸光度A的有效位數(shù)；常數(shù)a為截距，其小數(shù)點(diǎn)后保留的位數(shù)同吸光度A。相關(guān)系數(shù)r一般取4位有效數(shù)字。

3.5 乙醇量測(cè)定法中校正因子f的修約 氣相色譜法測(cè)定乙醇量與甲醇量都是采用內(nèi)標(biāo)法，內(nèi)標(biāo)物質(zhì)與對(duì)照品的取用量為1.00～6.00ml(精密量取)，為3位有效數(shù)字。 內(nèi)標(biāo)物質(zhì)、對(duì)照品與樣品的峰面積或峰高只能保留4位有效數(shù)字, 校正因子（f）也只能保留4位有效數(shù)字。

常見錯(cuò)誤為：列式運(yùn)算時(shí)，內(nèi)標(biāo)物質(zhì)、對(duì)照品與樣品的峰面積或峰高保留所有能讀到的數(shù)字，校正因子（f）為5位以上有效數(shù)字，致使運(yùn)算既費(fèi)時(shí)又不規(guī)范。3.6 液相色譜內(nèi)標(biāo)法中校正因子（f）的修約 液相色譜法中峰面積或峰高保留的有效數(shù)字位數(shù)，應(yīng)視對(duì)照品溶液和樣品溶液制備過程中所用容器而定。如取對(duì)照品10mg定容至50ml，前兩數(shù)均為4位有效數(shù)字，峰面積或峰高、f值就應(yīng)保留5位有效數(shù)字。取對(duì)照品10mg，定容至50ml，取1ml稀釋至10ml，前三數(shù)中有效數(shù)字位數(shù)最少的為3位，那么峰面積或峰高、f值就應(yīng)保留4位有效數(shù)字。

常見錯(cuò)誤為：島津、Waters等儀器測(cè)得的峰面積或峰高數(shù)字較大，保留了所有能讀到的數(shù)字，f值為5位以上有效數(shù)字。

3.7 相對(duì)標(biāo)準(zhǔn)偏差（RSD）的修約 在相對(duì)標(biāo)準(zhǔn)偏差（RSD）的求算中, 其有效數(shù)位（欠準(zhǔn)數(shù)字的位置）應(yīng)為其1/3值的首位。如RSD分別為: 3.4526%、1.5213%、0.1358%，其1/3值分別為: 0.011509、0.005071、0.0004527，其首位分別在百分位、千分位、萬分位。 按照相對(duì)標(biāo)準(zhǔn)偏差(RSD)“只進(jìn)不舍” 的修約原則, 分別修約為: 4%、1.6%、0.14%。從這個(gè)例子可以看出, 當(dāng)RSD≥3 時(shí), 只保留1位數(shù)有效數(shù)字; 當(dāng)RSD＜3 時(shí), 則保留2 位有效數(shù)字。