線形重回帰分析 (multiple linear regression analysis)

■説明変数が2つの場合

データNo.	データ $X_{1}$ （説明変数1）	データ $X_{2}$ （説明変数2）	データ $Y$ （目的変数）
1	$x_{11}$	$x_{12}$	$y_{1}$
2	$x_{21}$	$x_{22}$	$y_{2}$
3	$x_{31}$	$x_{32}$	$y_{3}$
$⋮$	$⋮$	$⋮$	$⋮$
$n$	$x_{n 1}$	$x_{n 2}$	$y_{n}$

$X_{1}$ ， $X_{2}$ ， $Y$ のデータの組が $n$ 個あるとする．このデータを用いて $Y$ の予測値 $\hat{y}$ を求める線形重回帰式は

$\hat{y} = a_{0} + a_{1} x_{1} + a_{2} x_{2}$

ただし

$a_{0} = \bar{y} - a \bar{x}$

$a_{1} = \frac{|\begin{matrix} σ_{x_{1} y} & σ_{x_{1} x_{2}} \\ σ_{x_{2} y} & σ_{x_{2}}^{2} \end{matrix}|}{|\begin{matrix} σ_{x_{1}}^{2} & σ_{x_{1} x_{2}} \\ σ_{x_{1} x_{2}} & σ_{x_{2}}^{2} \end{matrix}|}$ ， $a_{2} = \frac{|\begin{matrix} σ_{x_{1} y} & σ_{x_{1} y} \\ σ_{x_{2} y} & σ_{x_{2} y} \end{matrix}|}{|\begin{matrix} σ_{x_{1}}^{2} & σ_{x_{1} x_{2}} \\ σ_{x_{1} x_{2}} & σ_{x_{2}}^{2} \end{matrix}|}$

$\bar{x_{1}} = \frac{1}{n} \sum_{i = 1}^{n} x_{i 1}$ ， $\bar{x_{2}} = \frac{1}{n} \sum_{i = 1}^{n} x_{i 2}$ ， $\bar{y} = \frac{1}{n} \sum_{i = 1}^{n} y_{i}$ (参照：平均)

$σ_{x_{1} y} = \frac{1}{n} \sum_{i = 1}^{n} (x_{i 1} - \bar{x_{1}}) (y_{i} - \bar{y})$ ， $σ_{x_{2} y} = \frac{1}{n} \sum_{i = 1}^{n} (x_{i 2} - \bar{x_{2}}) (y_{i} - \bar{y})$

$σ_{x_{1} x_{2}} = \frac{1}{n} \sum_{i = 1}^{n} (x_{i 1} - \bar{x_{1}}) (x_{i 2} - \bar{x_{2}})$ (参照：共分散)

$σ_{x_{1}}^{2} = \frac{1}{n} \sum_{i = 1}^{n} {(x_{i 1} - \bar{x_{1}})}^{2}$ ， $σ_{x_{2}}^{2} = \frac{1}{n} \sum_{i = 1}^{n} {(x_{i 2} - \bar{x_{2}})}^{2}$ (参照：分散)

である．

定数項 $a_{0}$ ，および，回帰係数 $a_{1}$ ， $a_{2}$ の求め方はここを見てください．

■説明変数が $m$ 個の場合

$X_{1}$ ， $X_{2}$ ，･･･， $X_{m}$ ， $Y$ のデータの組が $m$ 個あるとする．

データNo.	データ $X_{1}$ （説明変数1）	データ $X_{2}$ （説明変数2）	･･･	データ $X_{m}$ （説明変数m）	データ $Y$ （目的変数）
1	$x_{11}$	$x_{12}$	･･･	$x_{1 m}$	$y_{1}$
2	$x_{21}$	$x_{22}$	･･･	$x_{2 m}$	$y_{2}$
3	$x_{31}$	$x_{32}$	･･･	$x_{3 m}$	$y_{3}$
$⋮$	$⋮$	$⋮$	$⋮$	$⋮$	$⋮$
$n$	$x_{n 1}$	$x_{n 2}$	･･･	$x_{n m}$	$y_{n}$

このデータから求められる線形重回帰式は

$\hat{y} = a_{0} + a_{1} x_{1} + a_{2} x_{2} + \dots + a_{m} x_{m}$

ただし

$a_{0} = \bar{y} - a_{1} \bar{x_{1}} - a_{2} \bar{x_{2}} - \dots - a_{m} \bar{x_{m}}$

$(\begin{matrix} a_{1} \\ a_{2} \\ ⋮ \\ a_{m} \end{matrix}) = {(\begin{matrix} σ_{x_{1}}^{2} & σ_{x_{1} x_{2}} & \dots & σ_{x_{1} x_{m}} \\ σ_{x_{1} x_{2}} & σ_{x_{2}}^{2} & \dots & σ_{x_{2} x_{m}} \\ ⋮ & ⋮ & ⋱ & ⋮ \\ σ_{x_{1} x_{m}} & σ_{x_{2} x_{m}} & \dots & σ_{x_{m}}^{2} \end{matrix})}^{- 1} (\begin{matrix} σ_{x_{1} y} \\ σ_{x_{2} y} \\ ⋮ \\ σ_{x_{m} y} \end{matrix})$

$σ_{x_{j}}^{2} = \frac{1}{n} \sum_{i = 1}^{n} {(x_{i j} - \bar{x_{j}})}^{2}$

$σ_{x_{j} x_{k}} = \frac{1}{n} \sum_{i = 1}^{n} (x_{i j} - \bar{x_{j}}) (x_{i k} - \bar{x_{k}})$

$σ_{x_{j} y} = \frac{1}{n} \sum_{i = 1}^{n} (x_{i j} - \bar{x_{j}}) (y_{i} - \bar{y})$

$\bar{x_{j}} = \frac{1}{n} \sum_{i = 1}^{n} x_{i j}$

$\bar{y} = \frac{1}{n} \sum_{i = 1}^{n} y_{i}$

である．

定数項および回帰係数の求め方は，(説明変数が2つの場合の証明)を参考にして考えてみてください．

ホーム>>カテゴリー分類>>>>確率統計>>線形回帰

　最終更新日： 2026年5月20日

線形重回帰分析 (multiple linear regression analysis)

■説明変数が2つの場合

■説明変数が m 個の場合

■説明変数が $m$ 個の場合