一、有效數(shù)字及運(yùn)算法則

　　1.有效數(shù)字
　　在質(zhì)量檢驗(yàn)工作中，測(cè)得的絕大部分?jǐn)?shù)據(jù)是屬于連續(xù)型的量，其數(shù)值的末一位一般具有一定的誤差或不確定性。故對(duì)末一位數(shù)字可認(rèn)為是不準(zhǔn)確或可疑的，稱為“可疑數(shù)字” 或叫“欠準(zhǔn)數(shù)字”，而其前邊各數(shù)所代表的數(shù)量，則均為準(zhǔn)確知道的，稱為“可靠數(shù)字”。我們稱此時(shí)所記數(shù)字均為有效數(shù)字。就是說有效數(shù)字是“可疑數(shù)字”和“可靠數(shù)字”的總稱。也可以說從第一個(gè)不為零的數(shù)字開始至末位數(shù)字被稱為有效數(shù)字。
　　至于“可疑數(shù)字”的欠準(zhǔn)程度，則有±1、±2、±5的不同約定。也有為了與數(shù)字修約規(guī)則一致，約定不超過可疑數(shù)字半個(gè)單位的，這時(shí)如果寫出數(shù)字0.5就表示其真值在0.45～0.55之間。所謂約定就是說沒有統(tǒng)一的規(guī)定可循。在質(zhì)量檢驗(yàn)的具體工作中，一般是根據(jù)檢測(cè)的具體條件決定，包括所用儀器的精度、方法的精確度等。必要時(shí)，可在觀測(cè)值的后面加上欠準(zhǔn)程度，如：原油閃點(diǎn)38℃±1℃，硫的相對(duì)原子質(zhì)量32.064±0.003等。
　　2.有效數(shù)字運(yùn)算法則
　　用觀測(cè)值計(jì)算分析結(jié)果時(shí)，就要進(jìn)行有效數(shù)字的運(yùn)算，運(yùn)算應(yīng)遵守有關(guān)法則。
　　(1)幾個(gè)觀測(cè)值相加減時(shí)，結(jié)果的有效數(shù)字應(yīng)以各觀測(cè)值的最大可疑位數(shù)為準(zhǔn)，即以小數(shù)位數(shù)最少的為準(zhǔn)。例如：求12.23與0.1234之和。應(yīng)以12.23為準(zhǔn)，即和應(yīng)為12.35。因?yàn)?2.23的小數(shù)點(diǎn)后第二位上的3是可疑的，即使0.1234的小數(shù)點(diǎn)后第三位是可靠數(shù)字，對(duì)求得的和也沒有意義。
　　(2)觀測(cè)值相乘、除時(shí)，積、商有效數(shù)字的位數(shù)一般應(yīng)與有效數(shù)字位數(shù)最少的觀測(cè)值相同。例如，0.15×9.6876的正確結(jié)果是1.5，而不是1.45314。但這個(gè)規(guī)則只能說適用于一般情況，在特殊情況下就不適用。確定積、商有效數(shù)字位數(shù)的普遍適用的規(guī)則，是它們的相對(duì)誤差應(yīng)與因數(shù)中最大的相對(duì)誤差相當(dāng)。
　　(3)對(duì)觀測(cè)值進(jìn)行乘方和開方時(shí)，求得乘冪的位數(shù)應(yīng)不超過觀測(cè)值本身的位數(shù)，且冪次愈高，乘冪誤差愈大，應(yīng)留的位數(shù)愈少；求得方根的位數(shù)應(yīng)至少與觀測(cè)值本身的位數(shù)相同，且開方的次數(shù)愈高，方根誤差愈小，應(yīng)留的位數(shù)愈多。
　　(4)觀測(cè)值的對(duì)數(shù)小數(shù)點(diǎn)后所取的位數(shù)，應(yīng)不多于觀測(cè)值有效數(shù)字的位數(shù)。
　　例如，
　　1g901.2=2.95482……
　　按約定，對(duì)數(shù)的下限和上限是
　　1g901.1=2.95477……
　　1g901.3=2.95486……
　　可見，對(duì)數(shù)的前四位是可靠數(shù)字，第五位欠準(zhǔn)程度是±1，可以把對(duì)數(shù)表示為五位有效數(shù)字，即
　　1g901.2=2.9548
　　(5)關(guān)于有效數(shù)字的修約，應(yīng)按照國(guó)家標(biāo)準(zhǔn)GB 8170—87《數(shù)值修約規(guī)則》進(jìn)行。
　　(6)在運(yùn)算過程中可以多保留一位有效數(shù)字。因?yàn)榕既粫?huì)發(fā)生連續(xù)“舍”或連續(xù)“進(jìn)” 的情況而影響最后結(jié)果。當(dāng)然，最后結(jié)果的位數(shù)仍應(yīng)按(1)、(2)、(3)、(4)、(5)條的規(guī)定處理。
　　把(1)、(2)、(3)、(4)四條規(guī)則概括起來可以知道，進(jìn)行加、減、乘、除運(yùn)算，一般都要分成三步：
　?、侔迅鲾?shù)修約到比最后結(jié)果的位數(shù)多一位。
　?、谶M(jìn)行加、減、乘、除運(yùn)算。
　?、圩詈髮?duì)計(jì)算結(jié)果進(jìn)行修約。
　　如果在全部運(yùn)算中除加、減、乘、除外還有乘方、開方、求對(duì)數(shù)的運(yùn)算，則應(yīng)按(3)、(4)條的規(guī)定，用求上、下限的方法確定乘冪、方根、對(duì)數(shù)有效數(shù)字的位數(shù)，再把它們納入①、②、③三個(gè)步驟中，求出最后結(jié)果。
　　(7)在所有計(jì)算式中，如根號(hào)2、1／2等數(shù)字，不連續(xù)物理量的數(shù)目，以及完全從理論計(jì)算出的數(shù)字如π、e等的有效數(shù)字位數(shù)可以無限制保留，需要幾位就寫幾位。其他如相對(duì)原子質(zhì)量等基本數(shù)量，如需要的有效位數(shù)少于公布的數(shù)值，可以根據(jù)需要保留。單位換算因數(shù)則需根據(jù)原單位的有效數(shù)位決定，如1kg=1000g，有效數(shù)位無限制，而氣體常數(shù)R值則有一定的最高有效數(shù)位。

　　二、準(zhǔn)確度與精密度

　　準(zhǔn)確是指觀測(cè)值與真值接近。觀測(cè)值與真值之差叫誤差。觀測(cè)值與真值越接近，觀測(cè)值的誤差越小，觀測(cè)值就越準(zhǔn)確。因此，觀測(cè)的準(zhǔn)確度是指觀測(cè)的正確性，即觀測(cè)結(jié)果與真值的接近程度。在實(shí)際工作中，人們常常把某一誤差很小的觀測(cè)值作為“真值”。例如，在定量分析中把標(biāo)準(zhǔn)樣品或純凈物質(zhì)的組分含量當(dāng)作沒有誤差的真值。這樣，就可以把實(shí)際測(cè)得的組分含量與之比較，來衡量測(cè)定結(jié)果的準(zhǔn)確度。
　　精密是指一組觀測(cè)值彼此符合。一組觀測(cè)值彼此越接近，觀測(cè)就越精密。因此，觀測(cè)的精密度是指觀測(cè)的重現(xiàn)性。精密度的高低不能說明觀測(cè)值與真值是否接近，即精密的觀測(cè)不一定是準(zhǔn)確的，這是因?yàn)橐鹩^測(cè)值遠(yuǎn)離真值的誤差，會(huì)對(duì)一系列的觀測(cè)發(fā)生相同的影響，因而無損于觀測(cè)的精密度。

　　三、誤差及數(shù)據(jù)處理

　　1.誤差的定義
　　測(cè)量的數(shù)據(jù)經(jīng)常受偶然因素的影響而變化。例如：一個(gè)化驗(yàn)員每日所化驗(yàn)的樣品數(shù)；測(cè)定某個(gè)天然氣樣品中的硫化氫含量，在重復(fù)測(cè)量時(shí)，結(jié)果往往不同。這種受偶然因素影響而變化的量，統(tǒng)計(jì)工作者稱為隨機(jī)變量。數(shù)據(jù)發(fā)生變化的原因，可以全部或部分地歸于測(cè)量誤差，有些則是由變量固有的性質(zhì)所決定的。上述兩個(gè)變量屬于不同類型：樣品數(shù)是離散型的，只能是整數(shù)，可以計(jì)數(shù)得絕對(duì)準(zhǔn)確；而后者是連續(xù)型的，測(cè)量就會(huì)有誤差。計(jì)數(shù)的數(shù)據(jù)和測(cè)量的數(shù)據(jù)統(tǒng)稱為觀測(cè)值。
　　被測(cè)量的量在規(guī)定條件下客觀存在的量值稱為它的真值。實(shí)際上，真值是無法被準(zhǔn)確知道的。因此，為了使用的特定目的，通常用與它足夠接近的量值來代替，這樣的量值稱之為“約定真值”。約定真值與真值之差對(duì)特定目的來說應(yīng)該是可以忽略不計(jì)的。
　　測(cè)量結(jié)果的誤差是觀測(cè)值與真值之差。觀測(cè)值比真值大，誤差為正；觀測(cè)值比真值小，誤差為負(fù)。
　　在定量分析中，我們把標(biāo)準(zhǔn)樣品給出的組分含量或給出的某項(xiàng)理化性能指標(biāo)當(dāng)作真值。實(shí)際上，這個(gè)真值是由最有經(jīng)驗(yàn)的人，用最可靠的方法，按照嚴(yán)格規(guī)定的程序，準(zhǔn)確地測(cè)定出來的。有了這種公認(rèn)的真值，我們就可以把測(cè)得的結(jié)果與“真值”之差，作為測(cè)定結(jié)果的誤差，來衡量某一分析方法的準(zhǔn)確度，某一化驗(yàn)室或某一化驗(yàn)員技術(shù)水平的高低。