↑: [[G検定に関する知識]]
- 学習していない未知データに対してもモデルが正しく予測できる能力
- 汎化性能が低い状態 → [[過学習]]（訓練データに特化しすぎ）
- 汎化性能を高める手法
- [[正則化]]（L1・L2）：過度な重みの成長を抑制
- [[早期終了]]：検証誤差が増え始めたら学習停止
- [[データ拡張]]：訓練データのバリエーションを増やす
- [[ドロップアウト]]：ランダムにニューロンを無効化
- 評価：訓練誤差と検証誤差のギャップで確認
- ギャップ大 → 過学習（汎化性能低）
- 両方高い誤差 → 未学習（underfitting）
- まだ見ぬデータ（未知データ）に対する予測精度
- モデル評価の本質はこれ。訓練誤差ではなく汎化誤差を測るべき
- 訓練誤差：訓練データへの誤差（モデルを複雑にすればいくらでも下がる）
- cf. [[過学習]], [[ホールドアウト検証]], [[k分割交差検証]]