| ||
|
物理量を測定する場合,測定精度には限界があるため,真の値と測定値の間に差(誤差)が生じる.有効数字は,その誤差を含んだ測定値がどれほど信頼性があるかということを表す.
例)長さの測定(物差しの最小目盛(1
)の単位まで測定するとする*)
測定値:26.4
⇒ 有効数字:2,6,4 (有効数字の桁数は3桁)
の単位で表すと 0.264
(有効数字3桁)
最初の 0 は位取りの 0 なので有効数字の桁数には含まれない!
* 普通は人間の目で最小目盛の10分の1(0.1
)の単位まで読み取る.
計算した結果を四捨五入によって 『測定値の末位が最も高い位のもの』 に合わせる.
例1) 13.5 + 4.0567 = 17.5567 ≒ 17.6
例2) 13.5 − 4.0567 = 9.4433 ≒ 9.4
計算した結果を四捨五入によって 『測定値の有効数字の桁数が最も少ないもの』 に合わせる.
例3) 1.2 × 2.43 = 2.916 ≒ 2.9
例4) 1357 ÷ 45.6 = 29.75・・・ ≒ 29.8
最終更新日:2025年9月18日