有効数字

例）長さの測定（物差しの最小目盛（1 ${\displaystyle \text{mm}}$ ）の単位まで測定するとする*）

測定値：26.4 ${\displaystyle \text{cm}}$ ⇒ 有効数字：2，6，4 （有効数字の桁数は3桁）

${\displaystyle \text{m}}$ の単位で表すと 0.264 ${\displaystyle \text{m}}$ （有効数字3桁）
最初の 0 は位取りの 0 なので有効数字の桁数には含まれない！

* 普通は人間の目で最小目盛の10分の1(0.1 ${\displaystyle \text{mm}}$ )の単位まで読み取る．

詳細

例えば，ある長さを最小目盛が 1 ${\displaystyle \text{mm}}$ の定規で測定したところ，26.4 ${\displaystyle \text{cm}}$ と 26.5 ${\displaystyle \text{cm}}$ の間にあり，わずかに 26.4 ${\displaystyle \text{cm}}$ に近かったので，測定値として 26.4 ${\displaystyle \text{cm}}$ を採用したとする．このとき，目盛を読み取って得られた意味のある3桁の数字 2，6，4 を有効数字といい，有効数字の桁数は3桁となる．

このように有効数字で表される場合，測定値 26.4 ${\displaystyle \text{cm}}$ はピッタリ 26.4 ${\displaystyle \text{cm}}$ という訳ではなく誤差を含む可能性がある．有効数字の桁数の多いものほど精密に測定したことになる．

ある長さを測定したところ，有効数字3桁で 500 ${\displaystyle \text{cm}}$ であった場合， ${\displaystyle \text{m}}$ の単位で表すと 5 ${\displaystyle \text{m}}$ であるが，有効数字が3桁であると示したいときには，5.00 ${\displaystyle \text{m}}$ としなければならない．500 ${\displaystyle \text{cm}}$ の有効数字は3桁であるが，500.0 ${\displaystyle \text{cm}}$ と書くと有効数字4桁である．

有効数字3桁の測定値 26.4 ${\displaystyle \text{cm}}$ を ${\displaystyle \text{m}}$ の単位で表すと 0.264 ${\displaystyle \text{m}}$ であるが，最初の 0 は位取りの 0 なので有効数字の桁数には含まれず，有効数字は 2，6，4 の3桁である．

閉じる

• 測定値同士の加減計算(足し算，引き算)
  

  計算した結果を四捨五入によって 『測定値の末位が最も高い位のもの』 に合わせる．

  例1） 13.5 ＋ 4.0567 ＝ 17.5567 ≒ 17.6

  例2） 13.5 − 4.0567 ＝ 9.4433 ≒ 9.4

  
  
• 測定値同士の乗除計算(かけ算，割り算)
  

  計算した結果を四捨五入によって 『測定値の有効数字の桁数が最も少ないもの』 に合わせる．

  例3） 1.2 × 2.43 ＝ 2.916 ≒ 2.9

  例4） 1357 ÷ 45.6 ＝ 29.75・・・ ≒ 29.8

  
  

詳細

• 測定値同士の加減計算(足し算，引き算)
  

  計算した結果を四捨五入によって 『測定値の末位が最も高い位のもの』 に合わせる．

  例1）  足し算  13.5 ＋ 4.0567 1 3 . 5 ← 末位が小数点第1位 ＋） 4 . 0 5 6 7 ← 末位が小数点第4位 1 7 . 5 5 6 7 小数点第2位を四捨五入 ⇒ 1 7 . 6 小数点第1位に合わせる

  例2）  引き算  13.5 − 4.0567 1 3 . 5 ← 末位が小数点第1位 −） 4 . 0 5 6 7 ← 末位が小数点第4位 9 . 4 4 3 3 小数点第2位を四捨五入 ⇒ 9 . 4 小数点第1位に合わせる

  
  
  
• 測定値同士の乗除計算(かけ算，割り算)
  

  計算した結果を四捨五入によって 『測定値の有効数字の桁数が最も少ないもの』 に合わせる．

  例3）  かけ算  1.2 × 2.43 1 . 2 ← 有効数字2桁 ×） 2 . 4 3 ← 有効数字3桁 3 6 4 8 2 4 2 . 9 1 6 小数点第2位を四捨五入 ⇒ 2 . 9 有効数字2桁に合わせる

  例4）  割り算  1357 ÷ 45.6 2 9 . 7 5 ・・・ ⇒ 29.8 有効数字3桁に合わせる 4 5 . 6 ） 1 3 5 7 9 1 2 4 4 5 0 4 1 0 4 3 4 6 0 3 1 9 2 2 6 8 0 2 2 8 0 4 0 0

  
  

閉じる