関連するページを見るにはこのグラフ図を利用してください.
応用分野: 最小二乗法

最小二乗法(偏微分を用いた計算)

ある物理量 y がある物理量 x の関数で

y = a x + b

と表されるとする.例えば x の値を決めて y の値を測定する作業を n 回繰り返し,表のように n 個の x y の対が得られたとする.

測定回数 1 2 3 …… n 1 n
x の値 x 1 x 2 x 3 …… x n 1 x n
y の値 y 1 y 2 y 3 …… y n 1 y n

この x y の対を x y 座標上にプロットすると

となり,実験条件のバラツキや測定誤差などの要因で,プロットした点は直線上に乗らない.(本来なら y = a x + b の関係があるので,すべての点は直線上に乗るはずである.)

プロットした点と y = a x + b との y 軸方向の値の差 Δ i

Δ i = y i ( a x i + b )

となる. a b の値によって Δ i の値は変化する.すべての点で Δ i の値を小さくする a b の値が, x y の関係を表す最も確からしい値だと考えることができる. a b の値を決める方法として

Δ 2 = i = 1 n Δ i 2 = i = 1 n { y i ( a x i + b ) } 2

の値を最小とする a b を用いる方法がある.この方法のことを最小二乗法という.

Δ 2 は最小となる a b の値

a = σ x y σ x 2 b = y ¯ a x ¯

ただし

x ¯ = 1 n i = 1 n x i y ¯ = 1 n i = 1 n y i (参照:平均)

σ x y = 1 n i = 1 n x i y i x ¯ y ¯ (参照:共分散)

σ x 2 = 1 n i = 1 n x i 2 x ¯ 2 (参照:分散)

■導出

Δ 2 ab2変数関数と考える.

Δ 2 = i=1 n y i a x i +b 2

= i=1 n y i 2 2 a x i +b y i + a x i +b 2

= i=1 n y i 2 2a x i y i 2b y i +a x i 2 +2ab x i + b 2 x i 2

= i=1 n x i 2 a 2 + x i 2 b 2 +2 x i ab2 x i y i a2 y i b+ y i 2

a 2 b 2 の係数が正であることより, Δ 2 は最小値を持つ.

Δ 2 が最小値を示す時

a Δ 2 =0  ・・・・・・(1)

b Δ 2 =0  ・・・・・・(2)

を満たす(偏導関数を参照).

a Δ 2 = a i=1 n y i a x i +b 2

= i=1 n a y i a x i +b 2

= i=1 n 2 y i a x i +b a y i a x i +b

= i=1 n 2 y i a x i +b x i

=2 i=1 n y i a x i +b x i

=2 i=1 n y i x i a x i 2 b x i

=2 i=1 n y i x i a i=1 n x i 2 b i=1 n x i  ・・・・・・(3)

(3),(1)より

i=1 n y i x i a i=1 n x i 2 b i=1 n x i =0  ・・・・・・(4)

(2)より

b Δ 2 = b i=1 n y i a x i +b 2

= i=1 n b y i a x i +b 2

= i=1 n 2 y i a x i +b b y i a x i +b

= i=1 n 2 y i a x i +b 1

=2 i=1 n y i a x i +b

=2 i=1 n y i a x i b

=2 i=1 n y i a i=1 n x i b i=1 n 1

=2 i=1 n y i a i=1 n x i nb  ・・・・・・(5)

(5),(2)より

i=1 n y i a i=1 n x i nb=0  ・・・・・・(6)

(6)より

b= 1 n i=1 n y i a i=1 n x i

= 1 n i=1 n y i a 1 n i=1 n x i  ・・・・・・(7)

(4)に(7)を代入する.

i=1 n y i x i a i=1 n x i 2 1 n i=1 n y i a 1 n i=1 n x i i=1 n x i =0

a i=1 n x i 2 1 n i=1 n x i 2 = i=1 n y i x i 1 n i=1 n y i i=1 n x i

a= i=1 n y i x i 1 n i=1 n y i i=1 n x i i=1 n x i 2 1 n i=1 n x i 2  ・・・・・・(8)

1 n i=1 n x i = x ¯   (参照:平均) ・・・・・・(9)

1 n i=1 n y i = y ¯   (参照:平均) ・・・・・・(10)

(8)に(9),(10)を代入する.

= 1 n i=1 n y i x i 1 n i=1 n y i 1 n i=1 n x i 1 n i=1 n x i 2 1 n i=1 n x i 2

= 1 n i=1 n y i x i y ¯ x ¯ 1 n i=1 n x i 2 x ¯ 2  ・・・・・・(11)

σ x y = 1 n i = 1 n x i y i x ¯ y ¯ (参照:共分散) ・・・・・・(12)

σ x 2 = 1 n i = 1 n x i 2 x ¯ 2 (参照:分散) ・・・・・・(13)

(11)に(12),(13)を代入する.

= σ xy σ x 2  ・・・・・・(14)

(7)に(9),(10)を代入する.

b = y ¯ a x ¯  ・・・・・・(15)

以上をまとめると

a = σ x y σ x 2 b = y ¯ a x ¯

とき Δ 2 は最小となる.

 

ホーム>>カテゴリー別分類>>その他>>最小二乗法

最終更新日 2025年2月8日

[ページトップ]

金沢工業大学

利用規約

google translate (English version)