最小二乗法

ある物理量${\displaystyle y}$ がある物理量${\displaystyle x}$ の関数で

${\displaystyle y=ax+b}$

と表されるとする．例えば${\displaystyle x}$ の値を決めて${\displaystyle y}$ の値を測定する作業を${\displaystyle n}$ 回繰り返し，表のように${\displaystyle n}$ 個の${\displaystyle x}$ と${\displaystyle y}$ の対が得られたとする．

この${\displaystyle x}$ と${\displaystyle y}$ の対を${\displaystyle xy}$ 座標上にプロットすると

となり，実験条件のバラツキや測定誤差などの要因で，プロットした点は直線上に乗らない．(本来なら${\displaystyle y=ax+b}$ の関係があるので，すべての点は直線上に乗るはずである．)

プロットした点と${\displaystyle y=ax+b}$ との${\displaystyle y}$ 軸方向の値の差${\displaystyle {\Delta }_i}$ は

${\displaystyle {\Delta }_i=y_i-\left(a{x}_i+b\right)}$

となる．${\displaystyle a}$ ，${\displaystyle b}$ の値によって ${\displaystyle {\Delta }_i}$ の値は変化する．すべての点で ${\displaystyle {\Delta }_i}$ の値を小さくする ${\displaystyle a}$ ，${\displaystyle b}$ の値が，${\displaystyle x}$ と${\displaystyle y}$ の関係を表す最も確からしい値だと考えることができる．${\displaystyle a}$ ，${\displaystyle b}$ の値を決める方法として

${\displaystyle {\Delta }^2={\displaystyle \sum _{i=1}^n\Delta i^2}={{\displaystyle \sum _{i=1}^n\left\{y_i-\left(a{x}_i+b\right)\right\}}}^2}$

の値を最小とする${\displaystyle a}$ ，${\displaystyle b}$を用いる方法がある．この方法のことを最小二乗法という．

${\displaystyle {\Delta }^2}$ の最小となる${\displaystyle a}$ ，${\displaystyle b}$の値を平方完成を利用して求める．

${\displaystyle {\Delta }^2={{\displaystyle \sum _{i=1}^n\left\{y_i-\left(a{x}_i+b\right)\right\}}}^2}$

${\displaystyle ={\displaystyle \sum _{i=1}^n\left\{y_i^2-2\left(a{x}_i+b\right)y_i+{\left(a{x}_i+b\right)}^2\right\}}}$

${\displaystyle ={\displaystyle \sum _{i=1}^n{y}_i^2}+{\displaystyle \sum _{i=1}^n\left(-2a{x}_i{y}_i\right)}+{\displaystyle \sum _{i=1}^n\left(-2b{y}_i\right)}}$ ${\displaystyle +{\displaystyle \sum _{i=1}^n{a}^2{x}_i^2}}$${\displaystyle +{\displaystyle \sum _{i=1}^{n}2ab{x}_i}}$${\displaystyle +{\displaystyle \sum _{i=1}^n{b}^2}}$

${\displaystyle ={\displaystyle \sum _{i=1}^n{y}_i^2}-2a{\displaystyle \sum _{i=1}^n{x}_i{y}_i}-2b{\displaystyle \sum _{i=1}^n{y}_i}}$${\displaystyle +a^2{\displaystyle \sum _{i=1}^n{x}_i^2}}$${\displaystyle +2ab{\displaystyle \sum _{i=1}^n{x}_i}}$${\displaystyle +n{b}^2}$

$$ {\displaystyle {\displaystyle \sum _{i=1}^n{y}_i^2}=A}$$ ，${\displaystyle {\displaystyle \sum _{i=1}^n{x}_i{y}_i}=B}$ ，${\displaystyle {\displaystyle \sum _{i=1}^n{y}_i}=C}$ ，${\displaystyle {\displaystyle \sum _{i=1}^n{x}_i^2}=D}$ ，${\displaystyle {\displaystyle \sum _{i=1}^n{x}_i}=E}$ とおくと

${\displaystyle =A-2aB-2bC+a^{2}D+2abE+n{b}^2}$

${\displaystyle =n{b}^2+2\left(Ea-C\right)b+D{a}^2-2Ba+A}$

${\displaystyle =n{\left(b+\frac{Ea-C}{n}\right)}^2-\frac{1}{n}{\left(Ea-C\right)}^2}$${\displaystyle +D{a}^2}$ ${\displaystyle -2Ba+A}$

${\displaystyle =n{\left(b+\frac{Ea-C}{n}\right)}^2}$${\displaystyle +\frac{1}{n}\left(nD-E^2\right){\left(a+\frac{CE-nB}{nD-E^2}\right)}^2}$${\displaystyle -\frac{1}{n}\frac{{\left(CE-nB\right)}^2}{nD-E^2}+A-\frac{1}{n}{C}^2}$

${\displaystyle a}$${\displaystyle =-\frac{CE-nB}{nD-E^2}}$

${\displaystyle =\frac{nB-CE}{nD-E^2}}$

${\displaystyle =\frac{{\displaystyle \frac{1}{n^2}}\left\{{\displaystyle n{\displaystyle \sum }_{i=1}^n{x}_i{y}_i-{\displaystyle \sum }_{i=1}^n{x}_i{\displaystyle \sum }_{i=1}^n{y}_i}\right\}}{{\displaystyle \frac{1}{n^2}}\left\{{\displaystyle n{\displaystyle \sum }_{i=1}^n{x}_i^2-{\left({\displaystyle \sum }_{i=1}^n{x}_i\right)}^2}\right\}}}$

${\displaystyle {\displaystyle =\frac{{\displaystyle \frac{1}{n}{\displaystyle \sum }_{i=1}^n{x}_i{y}_i}-\left({\displaystyle \frac{1}{n}{\displaystyle \sum }_{i=1}^n{x}_i}\right)\left({\displaystyle \frac{1}{n}{\displaystyle \sum }_{i=1}^n{y}_i}\right)}{{\displaystyle \frac{1}{n}{\displaystyle \sum }_{i=1}^n{x}_i^2}-{\left({\displaystyle \frac{1}{n}{\displaystyle \sum }_{i=1}^n{x}_i}\right)}^2}}}$

${\displaystyle =\frac{S_{xy}}{S_x^2}}$

${\displaystyle b}$${\displaystyle =-\frac{Ea-C}{n}}$

${\displaystyle =\frac{C-Ea}{n}}$

${\displaystyle =\frac{1}{n}\left(C-E\frac{nB-CE}{nD-E^2}\right)}$

${\displaystyle =\frac{1}{n}\frac{nCD-C{E}^2-nBE+C{E}^2}{nD-E^2}}$

${\displaystyle =\frac{CD-BE}{nD-E^2}}$

${\displaystyle =\frac{{\displaystyle \sum _{i=1}^n{x}_i^2{\displaystyle \sum _{i=1}^n{y}_i-{\displaystyle \sum _{i=1}^n{x}_i{y}_i{\displaystyle \sum _{i=1}^n{x}_i}}}}}{n{\displaystyle \sum _{i=1}^n{x}_i^2-{\left({\displaystyle \sum _{i=1}^n{x}_i}\right)}^2}}}$

${\displaystyle =\frac{{\displaystyle \frac{1}{n^2}}\left({\displaystyle {\displaystyle \sum }_{i=1}^n{x}_i^2{\displaystyle \sum }_{i=1}^n{y}_i-{\displaystyle \sum }_{i=1}^n{x}_i{y}_i{\displaystyle \sum }_{i=1}^n{x}_i}\right)}{{\displaystyle \frac{1}{n^2}}\left\{{\displaystyle n{\displaystyle \sum }_{i=1}^n{x}_i^2-{\left({\displaystyle \sum }_{i=1}^n{x}_i\right)}^2}\right\}}}$

${\displaystyle =\left(\frac{1}{n}{\displaystyle \sum }_{i=1}^n{y}_i\right)-a\left(\frac{1}{n}{\displaystyle \sum }_{i=1}^n{x}_i\right)}$

このとき${\displaystyle {\Delta }^2}$ は最小となる．

 

ホーム>>カテゴリー別分類>>その他>>最小二乗法

最終更新日 2023年10月5日