物理量を測定する場合,測定精度には限界があるため,真の値と測定値の間に差(誤差)が生じる.有効数字は,その誤差を含んだ測定値がどれほど信頼性があるかということを表す.
例)長さの測定(物差しの最小目盛(1
mm
)の単位まで測定するとする*)
測定値:26.4
cm
⇒ 有効数字:2,6,4 (有効数字の桁数は3桁)
m
の単位で表すと 0.264
m
(有効数字3桁)
最初の 0 は位取りの 0 なので有効数字の桁数には含まれない!
* 普通は人間の目で最小目盛の10分の1(0.1
mm
)の単位まで読み取る.
詳細
例えば,ある長さを最小目盛が 1
mm
の定規で測定したところ,26.4
cm
と 26.5
cm
の間にあり,わずかに 26.4
cm
に近かったので,測定値として 26.4
cm
を採用したとする.このとき,目盛を読み取って得られた意味のある3桁の数字 2,6,4 を有効数字といい,有効数字の桁数は3桁となる.
このように有効数字で表される場合,測定値 26.4
cm
はピッタリ 26.4
cm
という訳ではなく誤差を含む可能性がある.有効数字の桁数の多いものほど精密に測定したことになる.
ある長さを測定したところ,有効数字3桁で 500
cm
であった場合,
m
の単位で表すと 5
m
であるが,有効数字が3桁であると示したいときには,5.00
m
としなければならない.500
cm
の有効数字は3桁であるが,500.0
cm
と書くと有効数字4桁である.
有効数字3桁の測定値 26.4
cm
を
m
の単位で表すと 0.264
m
であるが,最初の 0 は位取りの 0 なので有効数字の桁数には含まれず,有効数字は 2,6,4 の3桁である.
閉じる