関連するページを見るにはこのグラフ図を利用してください．

最小二乗法(偏微分を用いた計算)

ある物理量 ${\displaystyle y}$ がある物理量 ${\displaystyle x}$ の関数で

${\displaystyle y=ax+b}$

と表されるとする．例えば ${\displaystyle x}$ の値を決めて ${\displaystyle y}$ の値を測定する作業を ${\displaystyle n}$ 回繰り返し，表のように ${\displaystyle n}$ 個の ${\displaystyle x}$ と ${\displaystyle y}$ の対が得られたとする．

この ${\displaystyle x}$ と ${\displaystyle y}$ の対を ${\displaystyle xy}$ 座標上にプロットすると

となり，実験条件のバラツキや測定誤差などの要因で，プロットした点は直線上に乗らない．(本来なら ${\displaystyle y=ax+b}$ の関係があるので，すべての点は直線上に乗るはずである．)

プロットした点と ${\displaystyle y=ax+b}$ との ${\displaystyle y}$ 軸方向の値の差 ${\displaystyle {\Delta }_i}$ は

${\displaystyle {\Delta }_i=y_i-\left(a{x}_i+b\right)}$

となる． ${\displaystyle a}$ ， ${\displaystyle b}$ の値によって ${\displaystyle {\Delta }_i}$ の値は変化する．すべての点で ${\displaystyle {\Delta }_i}$ の値を小さくする ${\displaystyle a}$ ， ${\displaystyle b}$ の値が， ${\displaystyle x}$ と ${\displaystyle y}$ の関係を表す最も確からしい値だと考えることができる． ${\displaystyle a}$ ， ${\displaystyle b}$ の値を決める方法として

の値を最小とする ${\displaystyle a}$ ， ${\displaystyle b}$ を用いる方法がある．この方法のことを最小二乗法という．

● ${\displaystyle {\Delta }^2}$ は最小となる $a$ と $b$ の値

${\displaystyle a=\frac{{\sigma }_{xy}}{{\sigma }_x^2}}$ ， ${\displaystyle b=\overline{y}-a\overline{x}}$

ただし

${\displaystyle \overline{x}=\frac{1}{n}{\displaystyle \sum }_{i=1}^n{x}_i}$ ， ${\displaystyle \overline{y}=\frac{1}{n}{\displaystyle \sum }_{i=1}^n{y}_i}$ (参照：平均)

■導出

${\Delta }^2$ を$a$，$b$の $2$変数関数と考える.

${\displaystyle {\Delta }^2={\displaystyle \sum }_{i=1}^n{\left\{y_i-\left(a{x}_i+b\right)\right\}}^2}$

${\displaystyle a^2}$ ，${\displaystyle b^2}$の係数が正であることより，${\Delta }^2$ は最小値を持つ．

${\Delta }^2$ が最小値を示す時

${\displaystyle \frac{\partial }{\partial a}{\Delta }^2=0}$　･･････(1)

${\displaystyle \frac{\partial }{\partial b}{\Delta }^2=0}$　･･････(2)

を満たす(偏導関数を参照)．

${\displaystyle ={\displaystyle \sum _{i=1}^n\frac{\partial }{\partial a}{\left\{y_i-\left(a{x}_i+b\right)\right\}}^2}}$

${\displaystyle ={\displaystyle \sum _{i=1}^{n}2\left\{y_i-\left(a{x}_i+b\right)\right\}\left(-x_i\right)}}$

${\displaystyle =-2{\displaystyle \sum _{i=1}^n\left\{y_i-\left(a{x}_i+b\right)\right\}{x}_i}}$

${\displaystyle =-2{\displaystyle \sum _{i=1}^n\left(y_i{x}_i-a{x}_i{}^2-b{x}_i\right)}}$

（3），(1)より

(2)より

${\displaystyle ={\displaystyle \sum _{i=1}^n\frac{\partial }{\partial b}{\left\{y_i-\left(a{x}_i+b\right)\right\}}^2}}$

${\displaystyle ={\displaystyle \sum _{i=1}^{n}2\left\{y_i-\left(a{x}_i+b\right)\right\}\left(-1\right)}}$

${\displaystyle =-2{\displaystyle \sum _{i=1}^n\left\{y_i-\left(a{x}_i+b\right)\right\}}}$

${\displaystyle =-2{\displaystyle \sum _{i=1}^n\left(y_i-a{x}_i-b\right)}}$

${\displaystyle =-2\left({\displaystyle \sum _{i=1}^n{y}_i}-a{\displaystyle \sum _{i=1}^n{x}_i}-b{\displaystyle \sum _{i=1}^{n}1}\right)}$

${\displaystyle =-2\left({\displaystyle \sum _{i=1}^n{y}_i}-a{\displaystyle \sum _{i=1}^n{x}_i}-nb\right)}$　･･････(5)

(5)，(2)より

${\displaystyle {\displaystyle \sum }_{i=1}^n{y}_i-a{\displaystyle \sum }_{i=1}^n{x}_i-nb=0}$　･･････(6)

(6)より

${\displaystyle b=\frac{1}{n}\left({\displaystyle \sum _{i=1}^n{y}_i}-a{\displaystyle \sum _{i=1}^n{x}_i}\right)}$

${\displaystyle =\frac{1}{n}{\displaystyle \sum _{i=1}^n{y}_i}-a\cdot \frac{1}{n}{\displaystyle \sum _{i=1}^n{x}_i}}$　･･････(7)

(4)に(7)を代入する．

${\displaystyle \frac{1}{n}{\displaystyle \sum _{i=1}^n{x}_i}=\overline{x}}$　 (参照：平均) ･･････(9)

${\displaystyle \frac{1}{n}{\displaystyle \sum _{i=1}^n{y}_i}=\overline{y}}$　 (参照：平均) ･･････(10)

(8)に(9)，(10)を代入する．

${\displaystyle =\frac{\frac{1}{n}{\displaystyle \sum _{i=1}^n{y}_i{x}_i}-\overline{y}\cdot \overline{x}}{\frac{1}{n}{\displaystyle \sum _{i=1}^n{x}_i{}^2}-{\overline{x}}^2}}$　･･････(11)

(11)に(12)，(13)を代入する．

${\displaystyle =\frac{{\sigma }_{xy}}{{\sigma }_x{}^2}}$　･･････(14)

(7）に(9)，(10)を代入する．

${\displaystyle b=\overline{y}-a\overline{x}}$　･･････(15)

以上をまとめると

${\displaystyle a=\frac{{\sigma }_{xy}}{{\sigma }_x^2}}$ ， ${\displaystyle b=\overline{y}-a\overline{x}}$

とき ${\displaystyle {\Delta }^2}$ は最小となる．

 

ホーム>>カテゴリー別分類>>その他>>最小二乗法

最終更新日 2025年2月8日

[ページトップ]

利用規約

google translate (English version)