Loading [MathJax]/jax/output/CommonHTML/jax.js
関連するページを見るにはこのグラフ図を利用してください.

最小二乗法

ある物理量 y がある物理量 x の関数で

y=ax+b

と表されるとする.例えば x の値を決めて y の値を測定する作業を n 回繰り返し,表のように n 個の xy の対が得られたとする.

測定回数 1 2 3 …… n1 n
x の値 x1 x2 x3 …… xn1 xn
y の値 y1 y2 y3 …… yn1 yn

この xy の対を xy 座標上にプロットすると

となり,実験条件のバラツキや測定誤差などの要因で,プロットした点は直線上に乗らない.(本来なら y=ax+b の関係があるので,すべての点は直線上に乗るはずである.)

プロットした点と y=ax+b との y 軸方向の値の差 Δi

Δi=yi(axi+b)

となる. ab の値によって Δi の値は変化する.すべての点で Δi の値を小さくする ab の値が, xy の関係を表す最も確からしい値だと考えることができる. ab の値を決める方法として

Δ2=ni=1Δi2=ni=1{yi(axi+b)}2

の値を最小とする ab を用いる方法がある.この方法のことを最小二乗法という.

Δ2 は最小となる ab の値

a=σxyσ2xb=ˉyaˉx

ただし

ˉx=1nni=1xiˉy=1nni=1yi (参照:平均)

σxy=1nni=1xiyiˉxˉy (参照:共分散)

σ2x=1nni=1x2iˉx2 (参照:分散)

■導出

偏導関数を用いた計算 ⇒ ここ

Δ2 の最小となる ab の値を平方完成を利用して求める.

Δ2=ni=1{yi(axi+b)}2

=ni=1{y2i2(axi+b)yi+(axi+b)2}

=ni=1{y2i2axiyi2byi+a2x2i+2abxi+b2}

=ni=1y2i+ni=1(2axiyi)+ni=1(2byi) +ni=1a2x2i +ni=12abxi +ni=1b2

=ni=1y2i2ani=1xiyi2bni=1yi +a2ni=1x2i +2abni=1xi +nb2

ni=1y2i=Ani=1xiyi=Bni=1yi=Cni=1x2i=Dni=1xi=E とおくと

=A2aB2bC+a2D+2abE+nb2

=nb2+2(EaC)b+Da22Ba+A

=n(b+EaCn)21n(EaC)2 +Da2 2Ba+A

=n(b+EaCn)2 +1n(E2a2+2CEaC2+nDa22nBa+nA)

=n(b+EaCn)2 +1n{(nDE2)a2+2(CEnB)a+nAC2}

=n(b+EaCn)2 +1n(nDE2)(a+CEnBnDE2)2 1n(CEnB)2nDE2+A1nC2

これより, Δ2 が最小になるのは

b+EaCn=0a+CEnBnDE2=0

の時である.よって

a =CEnBnDE2

=nBCEnDE2

=1n2{nni=1xiyini=1xini=1yi}1n2{nni=1x2i(ni=1xi)2}

=1nni=1xiyi(1nni=1xi)(1nni=1yi)1nni=1x2i(1nni=1xi)2

ここで

ˉx=1nni=1xiˉy=1nni=1yi (参照:平均) ・・・・・・(1)

σxy=1nni=1xiyiˉxˉy (参照:共分散) ・・・・・・(2)

σ2x=1nni=1x2iˉx2 (参照:分散) ・・・・・・(3)

とおくと

=σxyσ2x ・・・・・・(4)

b =EaCn

=CEan

=1n(CEnBCEnDE2)

=1nnCDCE2nBE+CE2nDE2

=CDBEnDE2

=ni=1x2ini=1yini=1xiyini=1xinni=1x2i(ni=1xi)2

=1n2(ni=1x2ini=1yini=1xiyini=1xi)1n2{nni=1x2i(ni=1xi)2}

=(1nni=1x2i)(1nni=1yi)(1nni=1xiyi)(1nni=1xi)1nni=1x2i(1nni=1xi)2

(1)より

=(1nni=1x2i)ˉy(1nni=1xiyi)ˉx1nni=1x2iˉx2

=(1nni=1x2i)ˉyˉx2ˉy+ˉx2ˉy(1nni=1xiyi)ˉx1nni=1x2iˉx2

={1nni=1x2iˉx2}ˉyˉx{1nni=1xiyiˉxˉy}1nni=1x2iˉx2

=ˉy1nni=1xiyiˉxˉy1nni=1x2iˉx2ˉx

(2),(3)より

=ˉyσxyσx2ˉx

(4)より

=ˉyaˉx

以上をまとめると

a=σxyσ2xb=ˉyaˉx

とき Δ2 は最小となる.

 

ホーム>>カテゴリー別分類>>その他>>最小二乗法

最終更新日 2025年2月8日

[ページトップ]

金沢工業大学

利用規約

google translate (English version)