分析實驗中,為了得到準確的分析結果,不僅要準確進行測量,而且還要正確記錄和計算。處理和計算出來的結果不僅要反映出測量的可信程度,也要反映出實驗結果的真實性。本文是基于分析過程中測定數值的修約,希望能對小伙伴有所幫助。 01
有 效 數 字有效數字是分析中具有實際意義的測定數值。它是由直接讀取的準確數字和通過估讀得到的可疑數字(最后一位)組成。
數 值 修 約 規(guī) 一般來說,分析工作者習慣采用“四舍五入”修約規(guī)則,不過在分析中逢五就進,必然會造成結果的系統(tǒng)偏高,誤差偏大,為了避免這樣的狀況出現,盡量減少因修約而產生的誤差,一般采用四舍六入五留雙的修約規(guī)則:
運 算 修 約 規(guī) 則04
試 驗 過 程 中 數 值 記 錄1、稱量實驗
數值修約的基礎知識1、什么是有效數字呢?
數值修約規(guī)則1、GB/T 8170-2008 《數值修約規(guī)則》
例如:3.2438中的“8”和0.130中的“0”。
有效數字的個數是有效位數,對于不同類型的測定數值其有效位數為:02
03
“精密稱定”是指稱取重量應準確至所取重量的千分之一;
“稱定”是指稱取重量應準確至所取重量的百分之一,按照“精密稱定”項原則進行修約;
“稱重”,“稱取”一般準確到規(guī)定重量下一位;
取“約XX”時,指取用量不超過規(guī)定量的(100±10)%;
取“XX”時,參照修約規(guī)則。
2、量取試驗
以刻度為依據可讀到最小刻度所在位并估讀最小刻度之間。
圖中“1”記錄為35.00cm,而不能記錄35cm,圖中“2”記錄為35.40cm,圖中“3”可記錄為35.75cm。
量取5ml的液體應采用5-10ml的量筒;量取5.0ml的液體應采用5-10ml的刻度管;量取5.00ml的液體應采用5-10ml的移液管。
容量瓶的定容應記錄為定容至100.00ml。
3、色譜實驗
-
峰面積一般不做修約,按實際測定值進行記錄,參與計算后按相關規(guī)定進行修約。
-
拖尾因子、分離度可修約至小數點后兩位,理論塔板數一般修約至正整數。
-
保留時間不做修約。
-
工作站自動生成數值也可不做修約。
-
化合物含量應該比標準規(guī)定限度的有效位數多一位,根據實際情況以修約規(guī)則進行修約。并且至少保留一位有效數字。
-
RSD按“只進不舍”進行修約。
-
色譜條件數值不得修約。
-
方法學驗證項的數值應該比標準規(guī)定限度的有效位數多一位,根據實際情況以修約規(guī)則進行修約。并且至少保留一位有效數字。
4、其他實驗
熔點、沸點等物理參數可修約至小數點后一位。
旋光率、折光率、原子吸收值可修約至小數點后三位。05
⑴有效數字是指在分析和測量中所能得到的有實際意義的數字。測量結果是由有效數字組成的(前后定位用的“0”除外)。
例如 測量結果1.1080g,組成數字1、1、0、8、0都是實際測讀到的,它們是表示試樣質量大小的,因而都是有實際意義的。
⑵有效數字的前幾位都是準確數字,只有最后一位是可疑數字。
例如前述的1.1080, 前幾位數字1、1、0、8都是稱量讀到的準確數字,而最后一位數字0則是在沒有刻度的情況下估讀出來的,是不準確的或者說可疑的。
⑶有效數字是處于表示測量結果的數值的不同數位上。所有有效數字所占有的數位個數稱為有效數字位數。
例如 數值3.5,有兩個有效數字,占有個位、十分位兩個數位,因而有效數字位數為兩位;3.501有四個有效數字,占有個位、十分位、百分位等四個數位,因而是四位有效數字。
⑷測量結果的數字,其有效位數反映了測量結果的精確度,它直接與測量的精密度有關。這也是有效數字實際意義的體現,是非常重要的體現。
例如 前述例子中,若測量結果為1.1080g,則表示測量值的誤差在10-4量級上,天平的精度為萬分之一;若測量結果為1.108g,則表示測量值的誤差在10-3量級上,天平的精度為千分之一。
2、有效數字位數的確定原則
在確定有效數字位數時應遵循下列原則:
⑴數值中數字1~9都是有效數字。
⑵數字“0”在數值中所處的位置不同,起的作用也不同,可能是有效數字,也可能不是有效數字。判定如下:
① “0”在數字前,僅起定位作用,不是有效數字。
例如 0.0257中,“2”前面的兩個“0”均非有效數字。0.123、0.0123、0.00123中“1”前面的“0”也均非有效數字。
②數值末尾的“0”屬于有效數字。
例如 0.5000中, “5”后面的三個“0”均為有效數字;0.50中, “5”后面的一個“0”也是有效數字。
③數值中夾在數字中間的“0”是有效數字。
例如 數值1. 008中的兩個“0”是均是有效數字;數值8. 01中間的 “0”也是有效數字。
④以“0”結尾的正整數,“0”是不是有效數字不確定,應根據測試結果的準確度確定。
例如 3600,后面的兩個“0”如果不指明測量準確度就不能確定是不是有效數字。測量中遇到這種情況,最好根據實際測試結果的精確度確定有效數字的位數,有效數字用小數表示,把“0”用10的乘方表示。如將3600寫成3.6×103表示此數有兩位有效數字;寫成3.60×103表示此數有三位有效數字;寫成3.600×103表示此數有四位有效數字。
3、修約間隔
修約間隔又稱修約區(qū)間或化整間隔,系確定修約保留位數的一種方式。修約間隔一般以k×10n(k=1,2,5;n為整數)的形式表示,將同一k值的修約間隔,簡稱為“k”間隔。
修約間隔的數值一經確定,修約值即應為該數值的整數倍。
例如 指定修約間隔為0.1,修約值即應在0.1的整數倍中選取,相當于將數值修約到一位小數。
-
1.0239修約到0.01,為1.02,
-
1.02÷0.01=102(倍)
4、修約數位及確定修約位數的表達方式
修約時擬將擬修約數的哪一位數位后部分按修約規(guī)則舍去,則該數位就是修約數位。
數值修約時需要先明確修約數位,確定修約位數的表達方式如下:
⑴指明具體的修約間隔。如指明將某數按0.2(2×10-1)修約間隔修約、100(1×102)修約間隔修約等。
⑵指定將擬修約數修約至某數位的0.1、0.2或0.5個單位。
⑶指明“k”按間隔將擬修約數修約為幾位有效數字,或修約至某數位。這時“1” 間隔可不必指明,但“2”間隔和“5”間隔必須指明。 06
⑴擬舍棄數字的最左一位數字小于5時,則舍去,即保留的各位數字不變。
例如 將12.1498修約到一位小數,得12.1。
例如 將12.1498修約成兩位有效位數,得12。
⑵擬舍棄數字的最左一位數字大于5;或者是5,而其后跟有并非全部為0的數字時,則進一,即保留的末位數字加1。
例如 將1268修約到“百”數位,得13×102(特定時可寫為1300)。
例如 將1268修約成三位有效位數,得127×10(特定時可寫為1270)。
例如 將10.502修約到個數位,得11。
注:“特定時”的涵義系指修約間隔或有效位數明確時。
⑶擬舍棄數字的最左一位數字為5,而右面無數字或皆為0時,若所保留的末位數字為奇數(1,3,5,7,9)則進一,為偶數(2,4,6,8,0)則舍棄。
⑷負數修約時,先將它的絕對值按上述⑴⑵⑶規(guī)定進行修約,然后在修約值前面加上負號。
⑸0.5單位修約與0.2單位修約
①0.5單位修約 既將擬修約數乘以2,按指定數位依3.1-3.4規(guī)則修約,所得數再除以2。
②0.2單位修約 既將擬修約數乘以5,按指定數位依3.1-3.4規(guī)則修約,所得數值再除以5。
2、通用數值修約方法
⑴如果為修約間隔整數倍的一系列數中,只有一個數最接近于擬修約數,則該數就是修約數。
例如 將1.150001按0.1修約間隔進行修約。此時,與擬修約數1.150001鄰近的為修約間隔整數倍的數有1.1和1.2(分別為修約間隔的11倍和12倍),然而只有1.2最接近于擬修約數,因此1.2就是修約數。
⑵如果為修約間隔整數培的一系列數中,有連續(xù)兩個數同等接近于擬修約數,則這兩個數中,為修約間隔偶數培的數就是修約數。
例如,將1150按100修約間隔行修約。此時,與擬修約數1150鄰近的為修約間隔整數倍的數有1100和1200(分別為修約間隔的11倍和12倍),這兩個數同等接近于擬修約數,然而1200為修約間隔的偶數培(12倍),因此1200 就是修約數。
⑶一個數據的修約只能進行一次,不能分次修約。