食品伙伴網(wǎng)服務號

內(nèi)卷不能輸,有效數(shù)字運算規(guī)則知多少!

放大字體  縮小字體 發(fā)布日期:2022-12-29
核心提示:在實驗數(shù)據(jù)的運算中,有效數(shù)字的保留和運算規(guī)則必不可少。本期給大家梳理并舉例說明實驗數(shù)值加減、乘除、乘方、開方等運算后有效
在實驗數(shù)據(jù)的運算中,有效數(shù)字的保留和運算規(guī)則必不可少。本期給大家梳理并舉例說明實驗數(shù)值加減、乘除、乘方、開方等運算后有效數(shù)字的修約規(guī)則,希望對大家有所幫助!

1. 有效數(shù)字
(1)有效數(shù)字是指在分析和測量中所能得到的有實際意義的數(shù)字。測量結果是由有效數(shù)字組成的(前后定位用的“0”除外)。

(2)有效數(shù)字的前幾位都是準確數(shù)字,只有最后一位是可疑數(shù)字。

例如:

測量結果1.1080g,前幾位數(shù)字1、1、0、8都是稱量讀到的準確數(shù)字,而最后一位數(shù)字0則是在沒有刻度的情況下估讀出來的,是不準確的或者說可疑的。

(3)有效數(shù)字是處于表示測量結果的數(shù)值的不同數(shù)位上。所有有效數(shù)字所占有的數(shù)位個數(shù)稱為有效數(shù)字位數(shù)。

例如:

① 數(shù)值3.5,有兩個有效數(shù)字,占有個位、十分位兩個數(shù)位,因而有效數(shù)字位數(shù)為兩位;

② 3.501有四個有效數(shù)字,占有個位、十分位、百分位、千分位四個數(shù)位,因而是四位有效數(shù)字。

(4)測量結果的數(shù)字,其有效位數(shù)反映了測量結果的精確度,它直接與測量的精密度有關。這也是有效數(shù)字實際意義的體現(xiàn)。

例如:

前述例子中,若測量結果為1.1080g,則表示測量值的誤差在10-4量級上,天平的精度為萬分之一;若測量結果為1.108g,則表示測量值的誤差在10-3量級上,天平的精度為千分之一。

2. 修約規(guī)則
3. 數(shù)值運算規(guī)則

(1)加減運算

幾個數(shù)相加減的結果,經(jīng)修約后保留有效數(shù)字的位數(shù),取決于絕對誤差最大的數(shù)值,計算結果應以絕對誤差最大(即小數(shù)點后位數(shù)最少)的數(shù)據(jù)為基準,來決定計算結果數(shù)據(jù)的位數(shù)。

在實際運算過程中,各數(shù)值保留的位數(shù)比各數(shù)值中小數(shù)點后位數(shù)最少者多保留一位小數(shù),而計算結果有效數(shù)字的位數(shù)應與效數(shù)最少的一數(shù)相同。

例如:29.2+36.582-3.0281≈62.8

(2) 乘除運算
幾個數(shù)據(jù)的乘除運算以相對誤差最大(即有效數(shù)字位數(shù)最少)的數(shù)值為基準來決定結果數(shù)據(jù)的位數(shù)。

在實際運算中,先將各數(shù)值修約至比有效數(shù)字位數(shù)最少者多保留一位有效數(shù)字運算,計算結果的有效數(shù)字的位數(shù)與有效數(shù)字位數(shù)最少的數(shù)值相同。(與小數(shù)點位置無關)

例如:

0.235438×28.6×61.8911

≈0.2354×28.6×61.89

=414.6707116

三個參與運算的數(shù)值的有效數(shù)字位數(shù)分別為六位、三位、六位,所以最終計算結果用三位有效數(shù)字表示,為415或4.15×102。

(3) 乘方和開方
乘方或開方時,原數(shù)值有幾位有效數(shù)字,計算結果就可以保留幾位有效數(shù)字。若計算結果還要參與運算,則乘方或開方所得結果可比原數(shù)值多保留一位有效數(shù)字。

例如:

3.582=12.8614,運算結果保留三位有效數(shù)字,為12.9。

(4) 平均值

計算幾個數(shù)值的平均值時,先將計算結果修約至比要求的位數(shù)多一位,再按數(shù)值修約規(guī)則處理。

(5) 方差和標準偏差

方差和標準偏差在運算過程中對中間結果不做修約,只將最后結果修約至要求的位數(shù)。

注意:

① 在所有計算式中,常數(shù)(π、e等)以及非檢測所得的計算因子(倍數(shù)或分數(shù)等)的有效數(shù)字位數(shù),可視為無限,需要幾位就取幾位。

② 使用計算器(或電腦)進行計算時,一般不對中間每一步驟的計算結果進行修約,僅對最后的結果進行修約,使其符合事先所確定的位數(shù)。

(6)自然數(shù)

在一些分析化學運算中,有時會遇到一些倍數(shù)或分數(shù)的關系。例如:水(H2O)的相對分子質量=2×1.008+16.00=18.02

其中 “2”不能看做1位有效數(shù)字。因為它們是非測量所得到的數(shù),是自然數(shù),其有效數(shù)字位數(shù),可視為無限的。

另外,常數(shù)π、圖片等的有效數(shù)字,可認為是無限制,即在計算中可根據(jù)需要取適當?shù)臄?shù)位。


文章(文字)來源:實驗室GB檢測技術 
編輯:songjiajie2010

 
分享:
[ 網(wǎng)刊訂閱 ]  [ 檢驗技術搜索 ]  [ ]  [ 告訴好友 ]  [ 打印本文 ]  [ 關閉窗口 ] [ 返回頂部 ]
 

 
 
推薦圖文
推薦檢驗技術
點擊排行
檢驗技術
 
 
Processed in 0.206 second(s), 17 queries, Memory 0.92 M