残差 (residual)

残差とは、説明変数 $X$ の実現値 $x_{i}$ における目的変数 $Y$ の実現値 $y_{i}$ と標本から求めた回帰式による予測値 ${\hat{y}}_{i}$ との差である．

回帰式が

$\hat{y} = {\hat{β}}_{0} + {\hat{β}}_{1} x$

の1次式で表される場合について説明する

説明変数 $X$ の実現値が $x_{i}$ のときの目的変数 $Y$ の実現値が $y_{i}$ とすると，残差 $e_{i}$ は

$e_{i} = y_{i} - {\hat{y}}_{i}$ $= y_{i} - ({\hat{β}}_{0} + {\hat{β}}_{1} x_{i})$

となる．

【備考】
回帰式の係数には，母集団における真の回帰式の係数と区別するためにハット記号＾を付けている．また， $y$ ではなく， $\hat{y}$ を用いているのは，標本から求めた回帰式によって得られる値が， $x$ に対応する $y$ の予測値であることを示すためである．

■残差平方和

残差 $e_{1}$ ， $e_{2}$ ， $e_{3}$ ･･･ $e_{n}$ の2乗和

$\sum_{i = 1}^{n} e_{i}^{2}$

のことを残差平方和(Residual Sum of Squares ( RSS)，あるいは，Sum of Squared Errors)（以下，SSEと表記）という．

　最終更新日： 2026年6月26日