分析實(shí)驗(yàn)中的有效數(shù)字和數(shù)值修約

趙新穎 危 晴 曹奇光 袁 騉

(北京電子科技職業(yè)學(xué)院，北京 100176)

規(guī)范測(cè)量和正確記錄是確保分析實(shí)驗(yàn)結(jié)果準(zhǔn)確性的重要前提。其中，有效數(shù)字是指在實(shí)驗(yàn)過程中，能夠測(cè)量到的數(shù)值，由幾位準(zhǔn)確數(shù)字和最后一位可疑數(shù)字組成。例如，用萬分之一分析天平稱量時(shí)，可以精確到小數(shù)點(diǎn)后第四位，則有效數(shù)字位數(shù)不會(huì)少于4位；用常量滴定管滴定時(shí)，可以精確到小數(shù)點(diǎn)后第二位，則有效數(shù)字最多為4位。數(shù)值修約則指進(jìn)行運(yùn)算前，通過調(diào)整保留末位數(shù)字，使最后所得到數(shù)值最接近原數(shù)值的過程?？傮w來說，有效數(shù)字和數(shù)值修約都必須以實(shí)驗(yàn)為基礎(chǔ)，是表明該實(shí)驗(yàn)測(cè)量精度的重要參數(shù)。

1 有效數(shù)字位數(shù)

一般情況下，稱量或者移取操作后，直接讀取的數(shù)值即為有效數(shù)字。但是“0”在數(shù)值中的位置與有效數(shù)字的位數(shù)有直接關(guān)系，主要有以下3種情況：

第一，“0”在數(shù)值中間。此時(shí)，讀取的數(shù)值即為有效數(shù)字，其中每個(gè)阿拉伯?dāng)?shù)字都代表一位有效數(shù)字。如，某物稱量結(jié)果顯示為3.2011 g，則此次稱量值的有效數(shù)字有5位，即“32011”。

第二，“0”在數(shù)值前面。數(shù)值前面的“0”只起定位作用。如，稱量結(jié)果顯示為3.2011 g，按照質(zhì)量單位進(jìn)行折算后，3.2011 g = 0.0032011 kg = 0.0000032011 t，其有效數(shù)字均為5位，即“32011”。 0.0032011 kg 中3前面的3個(gè)“0”和 0.0000032011 T 中3前面的6個(gè)“0”只起到定位作用，不影響有效數(shù)字的位數(shù)。

第三，“0”在數(shù)值后面。數(shù)值末位有“0”時(shí)，則要考慮兩種情況。第一種情況為“0”在小數(shù)的末位，如1.000、2.00、5.0等，此時(shí)“0”代表1位有效數(shù)字，且“0”之前的所有數(shù)字都代表1位有效數(shù)字。1.000有效數(shù)字為4位、2.00有效數(shù)字為3位、5.0有效數(shù)字為2位。第二種情況為“0”在整數(shù)的末位，如1000、200、50等，這種情況統(tǒng)稱為有效數(shù)字位數(shù)不明，需要使用“科學(xué)記數(shù)法”標(biāo)明有效數(shù)字位數(shù)。以1000為例：1×103的有效數(shù)字為1位，1.0×103的有效數(shù)字為兩位，1.00×103的有效數(shù)字為3位，1.000×103的有效數(shù)字為4位。

此外，pH、pK等對(duì)數(shù)值，有效數(shù)字的位數(shù)為小數(shù)點(diǎn)后數(shù)字的位數(shù)，如pH為1.30、pKa為11.85的有效數(shù)字位數(shù)均為兩位。

2 數(shù)值修約原則

數(shù)值修約應(yīng)首先確定"修約間隔"和"進(jìn)舍規(guī)則"，然后根據(jù)"修約間隔"，通過"進(jìn)舍規(guī)則"保留到指定位數(shù)?？萍脊ぷ髦袦y(cè)定和計(jì)算得到的各種數(shù)值，除另有規(guī)定外，修約時(shí)均應(yīng)按照國家標(biāo)準(zhǔn)GB/T 8170-2008 《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》進(jìn)行。

2.1 修約間隔

修約間隔是修約值的最小數(shù)值單位，數(shù)值一經(jīng)確定，修約值即為該數(shù)值的整數(shù)倍。例如，指定修約間隔為0.1，修約值即應(yīng)在0.1的整數(shù)倍中選取，相當(dāng)于將數(shù)值修約到1位小數(shù)，例如：將60.28修約到個(gè)數(shù)位的0.1單位(即保留1位小數(shù))，其結(jié)果為60.3。在實(shí)際檢測(cè)中，0.5單位修約(半個(gè)單位修約)和0.2單位修約也較為常用。例如，將60.28以0.5個(gè)單位進(jìn)行修約，其結(jié)果為60.5。修約方法為60.28×2 = 120.56，修約間隔為1，修約后為121；除以2得到修約結(jié)果為60.5。將60.28以0.2單位進(jìn)行修約，其結(jié)果為60.2。修約方法為60.28×5 = 301.4，修約間隔為1，修約后為301；除以5得到修約結(jié)果為60.2。由此可見，同一數(shù)值，修約間隔不同，所得修約結(jié)果也不相同。表1列舉了實(shí)例，說明了修約間隔對(duì)修約結(jié)果的影響。

表1 0.5單位修約和0.2單位修約方法及實(shí)例

2.2 進(jìn)舍規(guī)則

為避免“四舍五入”進(jìn)舍規(guī)則造成誤差偏大的現(xiàn)象，現(xiàn)行一般采用“四舍六入五留雙”的進(jìn)舍規(guī)則。該規(guī)則針對(duì)修約間隔值的十分之一所對(duì)應(yīng)的數(shù)位上的數(shù)字：小于等于4，舍棄；大于等于6，修約間隔值對(duì)應(yīng)數(shù)位的數(shù)字加1；5后有大于等于1的數(shù)字，修約間隔值對(duì)應(yīng)數(shù)位的數(shù)字加1；5后沒有大于等于1的數(shù)字，修約間隔值對(duì)應(yīng)數(shù)位的數(shù)字保留偶數(shù)。例如，將15.4565按修約間隔為1修約，修約結(jié)果為15(小于等于4舍)；修約間隔為0.1，修約結(jié)果為15.5(5后有數(shù)進(jìn))；修約間隔為0.01，修約結(jié)果為15.46(大于等于6入)；修約間隔為0.001，修約結(jié)果為15.456(5后無數(shù)留雙)。

需要注意的是，進(jìn)行數(shù)值修約時(shí)，應(yīng)一次修約到指定的位數(shù)，不可以進(jìn)行數(shù)次修約，否則將有可能得到錯(cuò)誤結(jié)果。例如，將15.4565修約到個(gè)位時(shí)，一步到位正確的修約結(jié)果為15，而分步修約將得到錯(cuò)誤的結(jié)果16(修約過程為15.4565→15.456→15.46→15.5→16)。

有效數(shù)字的運(yùn)算將于下期討論。