KIT物理ナビゲーション

有効数字

物理量を測定する場合,測定精度には限界があるため,真の値と測定値の間に差(誤差)が生じる.有効数字は,その誤差を含んだ測定値がどれほど信頼性があるかということを表す.

例)長さの測定(物差しの最小目盛(1 mm )の単位まで測定するとする*

測定値:26.4 cm ⇒ 有効数字:2,6,4 (有効数字の桁数は3桁)

m の単位で表すと 0.264 m (有効数字3桁)
最初の 0 は位取りの 0 なので有効数字の桁数には含まれない!

* 普通は人間の目で最小目盛の10分の1(0.1 mm )の単位まで読み取る.

詳細

◆ 測定値の計算

  • 測定値同士の加減計算(足し算,引き算)

    計算した結果を四捨五入によって 『測定値の末位が最も高い位のもの』 に合わせる.

    例1) 13.5 + 4.0567 = 17.5567 ≒ 17.6

    例2) 13.5 − 4.0567 = 9.4433 ≒ 9.4


  • 測定値同士の乗除計算(かけ算,割り算)

    計算した結果を四捨五入によって 『測定値の有効数字の桁数が最も少ないもの』 に合わせる.

    例3) 1.2 × 2.43 = 2.916 ≒ 2.9

    例4) 1357 ÷ 45.6 = 29.75・・・ ≒ 29.8


詳細

ホーム>>カテゴリー分類>>有効数字

最終更新日: 2016年2月22日

[ページトップ]
金沢工業大学