変動の分解

最小二乗法による線形回帰分析において， $3$\hspace{1}{y}_{i}$ を目的変数の実際の値， $3$\displaystyle{\hspace{1}{\hat{y}}_{i}}$ を予測値(回帰式より求めた値)， $3$\hspace{1}{{\varepsilon}}_{i}$ を残差とし．これらの平均値を $3$\displaystyle{\bar{y}}$ ， $3$\displaystyle{\hat{\hat{y}}}$ ， $3$\displaystyle{\bar{{\varepsilon}}}$ で表わすと

$3$\displaystyle{{\displaystyle{\sum }}\limits_{ i=1 }^{n}{\left({ \hspace{1}{y}_{i}- \bar{y} }\right)}^{2}}$ ：全変動，あるいは，全平方和（以下，TSSと表記）

$3$\displaystyle{{\displaystyle{\sum }}\limits_{ i=1 }^{n}{\left({ \hspace{1}{\hat{y}}_{i}- \hat{\hat{y}} }\right)}^{2}}$ ：回帰変動，あるいは，回帰平方和（以下，SSRと表記)

$3$\displaystyle{{\displaystyle{\sum }}\limits_{ i=1 }^{n}{\left({ \hspace{1}{{\varepsilon}}_{i}- \bar{{\varepsilon}} }\right)}^{2}}$ ：残差変動，あるいは，残差平方和（以下，SSEと表記)

といい

$3$\displaystyle{{\displaystyle{\sum }}\limits_{ i=1 }^{n}{\left({ \hspace{1}{y}_{i}- \bar{y} }\right)}^{2}}$ $3$\displaystyle{={\displaystyle{\sum }}\limits_{ i=1 }^{n}{\left({ \hspace{1}{\hat{y}}_{i}- \hat{\hat{y}} }\right)}^{2}+{\displaystyle{\sum }}\limits_{ i=1 }^{n}{\left({ \hspace{1}{{\varepsilon}}_{i}- \bar{{\varepsilon}} }\right)}^{2}}$

全変動(TSS)＝回帰変動(SSR)+残差変動(SSE)

備考： $3$\displaystyle{\hspace{1}{{\varepsilon}}_{i}=\hspace{1}{y}_{i}- \hspace{1}{\hat{y}}_{i}}$ ， $3$\displaystyle{\bar{y}=\hat{\hat{y}}}$ (このページの(19)，および，このページの(42)を参照) ， $3$\displaystyle{\bar{{\varepsilon}}=0}$ (このページの(25)，および，このページの(40)を参照)

のような関係が成り立つ．このの関係を変動の分解という．

回帰変動は，目的変数の変動のうち，回帰式によって説明される部分であり，説明可能な変動とも呼ばれる．一方，残差変動は，回帰式では説明されない部分であり，説明不可能な変動とも呼ばれる．

■証明

線形単回帰の場合 ⇒ ここ
線形重回帰の場合 ⇒ここ

ホーム>>カテゴリー分類>>確率>>統計>>変動の分解

　最終更新日： 2026年5月17日