勾配降下法ツールの使い方と学習内容

■このツールについて

4次関数 ${\displaystyle f\left(x\right)=a{x}^4+b{x}^3+c{x}^2+dx+e}$ の最小値を，勾配降下法（傾き＝微分係数の情報を使って少しずつ移動する方法）で探すインタラクティブな教材である． グラフ上の点を動かしながら，「なぜその方向に動くのか」「どれくらいの幅で動くのか」を数式と連動して確認できる．

■使い方

●各コントロールの役割

■学習できる内容

① 勾配降下法とは何か

勾配降下法は，関数の最小値を「一気に計算」するのではなく，今いる場所の傾き（勾配）を手がかりに，坂を下る方向へ少しずつ進むことで探索する方法である． ボールを斜面に置くと自然に低い方へ転がっていくイメージに近く，ディープラーニングを含む多くの機械学習モデルの学習に使われている基本的な考え方である．

② 微分（導関数）と接線の傾きの関係

ある点における ${\displaystyle f^{\prime }\left(x\right)}$ （${\displaystyle f\left(x\right)}$ の導関数の値）は，その点でグラフに引いた接線の傾きと一致する．

傾きが正（${\displaystyle f^{\prime }\left(x\right)>0}$ ）なら，グラフは右上がり＝${\displaystyle x}$ を減らすと値が下がる．傾きが負（${\displaystyle f^{\prime }\left(x\right)<0}$ ）なら逆に，${\displaystyle x}$ を増やすと値が下る． このツールでは ${\displaystyle f\left(x\right)}$ と ${\displaystyle f^{\prime }\left(x\right)}$ を上下に並べて表示しているので，「グラフの傾き」と「微分の値」が常に対応していることを見比べながら確認できる．

③ 更新式の意味

${\displaystyle \Delta x}$（${\displaystyle x}$の移動量）は常に傾きと逆方向を向くように符号が決まる（傾きが正なら左へ，負なら右へ動く＝坂を下る方向）． 移動量の大きさは ${\displaystyle \left|f^{\prime }\left(x\right)\right|÷50}$ を基本としつつ，最大でも ${\displaystyle 2}$ までに制限（キャッピング）されています．

④ 極小値と初期位置の関係（タイプ2で確認）

タイプ2の関数は極小値（谷）が2か所あります．勾配降下法は今いる場所から見える一番近い谷にしか下りていけないため，出発点（赤い点の初期位置）によって，どちらの谷にたどり着くかが変わる． 赤い点を谷と谷の間のいろいろな位置にドラッグしてから「自動実行」を試すと，出発点により最終的に落ち着く場所（局所最適解）が変わることを体験できる．

⑤ 収束の様子

「自動実行」を押して${\displaystyle f^{\prime }\left(x\right)}$ のグラフ（青い点）を見ていると，点が$0$に近づくにつれて動きが小さくなっていく様子が分かる．これは，傾きが緩やかになるほど補正値（${\displaystyle \left|f^{\prime }\left(x\right)\right|÷50}$ ）も小さくなり，${\displaystyle \Delta x}$ が自然に小さくなっていくためである．最小値付近では動きがほとんど止まって見えるようになる．