↑: [[G検定に関する知識]]
- 検証データの誤差が悪化し始めた瞬間に学習を停止する過学習防止手法
- 「成績が下がる前に勝ち逃げする」
- 最も汎化性能が高い状態のモデルを保存できる
- [[二重降下現象]]・[[ノーフリーランチの定理]]とセットで覚える
- 監視対象は**検証データの損失**(訓練損失ではない)。改善が止まってから待つエポック数を**patience**という
- エポック数というハイパーパラメータを動的に決める役割も果たす
- L1・L2のように損失に罰則項を加える手法ではないが、更新回数を抑えて重みの過度な増大を防ぐため正則化に近い効果を持つ
- ひっかけ:学習前にエポック数を少なく固定するのは早期終了ではない。ドロップアウト(ノードをランダム無効化)とも別物
- 訓練誤差は下がり続けるが、検証誤差が増え始めたらそこが過学習の入口
- 実装が非常に簡単なのに[[正則化]]と同等の過学習抑制効果を持つ
- cf. [[グリッドサーチ]], [[正則化]], [[ハイパーパラメータ]]